Ollama/AnythingLLM
Mention HN : Écrire à l’université à l’heure des IA génératives
Atelier pédagogique : utilisation de Ollama et AnythingLLM
Pourquoi utiliser Ollama
Ollama permet d’exécuter des modèles d’intelligence artificielle localement sur son ordinateur, sans dépendre de services cloud externes. Cela garantit la confidentialité des données, réduit les coûts liés à l’utilisation de l’IA et offre une grande flexibilité pour tester différents modèles open source. De plus, Ollama facilite l’intégration de l’IA dans des projets personnels ou professionnels grâce à une interface simple et des commandes intuitives.
Pour plus de détails : - Les sources : https://github.com/ollama/ollama - la veille : https://www.diigo.com/user/luckysemiosis?query=ollama
Installation de Ollama
Installation sur votre ordinateur
Pour Windows, macOS et Linux
- Rendez-vous sur la page officielle : https://ollama.com/download
- Téléchargez le programme d’installation adapté à votre système d’exploitation.
- Lancez l’installation et suivez les instructions à l’écran.
Installation via la ligne de commande (pour les utilisateurs avancés)
macOS (Homebrew) :
brew install ollama
Linux (script officiel) :
curl -fsSL https://ollama.com/install.sh | sh
Windows : Téléchargez l’installateur depuis le site officiel et exécutez-le.
Test d’installation
ollama --version
Chargement des modèles
Exemple : Pour charger un modèle spécifique, utilisez la commande suivante : ollama pull
Exemple : pour charger le modèle “llama2” ollama pull llama2
Liste des modèles disponibles sur votre machine
ollama list
Quel modèle choisir ?
Pour choisir un modèle Ollama, il est important de prendre en compte les critères suivants :
Objectif du projet : Déterminez si vous avez besoin d’un modèle pour la génération de texte, la classification, la traduction, ou d’autres tâches spécifiques.
Taille du modèle : Les modèles plus grands, comme LLaMA 2-13B, offrent généralement de meilleures performances, mais nécessitent plus de ressources (mémoire et puissance de calcul). Si vous travaillez sur une machine avec des ressources limitées, privilégiez un modèle plus léger.
Données d’entraînement : Vérifiez si le modèle a été entraîné sur des données pertinentes pour votre domaine d’application. Par exemple, certains modèles sont spécialisés dans des domaines comme la médecine, le droit, ou la programmation.
Licence et restrictions : Assurez-vous que la licence du modèle est compatible avec votre utilisation (personnelle, académique, ou commerciale).
Compatibilité avec Ollama : Consultez la documentation officielle ou utilisez la commande suivante pour voir les modèles compatibles avec Ollama : https://ollama.com/search](https://ollama.com/search)
Tests et évaluation : Une fois le modèle téléchargé, effectuez des tests pour évaluer ses performances sur vos cas d’utilisation spécifiques.
En cas de doute, commencez par un modèle généraliste comme “llama2” et ajustez votre choix en fonction des résultats obtenus.
Usages et limites
Usage en ligne de commande
- lancer ollama :
ollama serve
- Utiliser un modèle :
ollama run deepseek-r1
- Commencer une conversation :
A quoi servent les humanités numériques ?
- Finir une conversation : Quitter le terminal
Usage pour faire de l’OCR
Ollama-OCR
“Ollama-OCR” est une application de reconnaissance optique de caractères (OCR, pour Optical Character Recognition). Ollama-OCR s’utilise à partir d’un script Python conçu pour effectuer des tâches d’OCR, en utilisant des modèles d’intelligence artificielle ou des outils spécifiques.
Installation : suivre les instructions de cette page : https://github.com/imanoop7/Ollama-OCR
Créer un script python : one.py
modifier le script python :
from ollama_ocr import OCRProcessor
# Initialize OCR processor
= OCRProcessor(model_name='llama3.2-vision:11b') # You can use any vision model available on Ollama
ocr
# Process an image
= ocr.process_image(
result ="/Users/samszo/Sites/freloche/files/Photos-1-001/PXL_20250225_075552954.MP.jpg", # path to your pdf files "path/to/your/file.pdf"
image_path="markdown", # Options: markdown, text, json, structured, key_value
format_type="Extract all text, focusing on names or book title.", # Optional custom prompt
custom_prompt="French" # Specify the language of the text
language
)print(result)
- Executer le script python :
python one.py
- Le résultat s’affiche dans le terminal :
The image presents a black-and-white photograph of a bookshelf, showcasing a collection of books with their spines facing outward. The books are arranged in a row, with some titles and authors visible, while others are not.
Here is the list of books extracted from the image:
* "La Vie Algorithmique" by Éric Sabir
* "Pour Une Ecologie de L'attention" by Yves Citton
* "La Couleur Des Idees" by Yves Citton
* "Bibliothèque Idées" by Hans Robert Jauß
* "La Vie Algorithmique" by Éric Sabir
* "Pour Une Ecologie de L'attention" by Yves Citton
* "La Couleur Des Idees" by Yves Citton
* "Bibliothèque Idées" by Hans Robert Jauß
* "La Vie Algorithmique" by Éric Sabir
* "Pour Une Ecologie de L'attention" by Yves Citton
* "La Couleur Des Idees" by Yves Citton
* "Bibliothèque Idées" by Hans Robert Jauß
* "La Vie Algorithmique" by Éric Sabir
* "Pour Une Ecologie de L'attention" by Yves Citton
* "La Couleur Des Idees" by Yves Citton
* "Bibliothèque Idées" by Hans Robert Jauß
* "La Vie Algorithmique" by Éric Sabir
* "Pour Une Ecologie de L'attention" by Yves Citton
* "La Couleur Des Idees" by Yves Citton
* "Bibliothèque Idées" by Hans Robert Jauß
* "La Vie Algorithmique" by Éric Sabir
* "Pour Une Ecologie de L'attention" by Yves Citton
* "La Couleur Des Idees" by Yves Citton
* "Bibliothèque Idées" by Hans Robert Jauß
* "La Vie Algorithmique" by Éric Sabir
* "Pour Une Ecologie de L'attention" by Yves Citton
* "La Couleur Des Idees" by Yves Citton
* "Bibliothèque Idées" by Hans Robert Jauß
* "La Vie Algorithmique" by Éric Sabir
* "Pour Une Ecologie de L'attention" by Yves Citton
* "La Couleur Des Idees" by Yves Citton
* "Bibliothèque Idées" by Hans Robert Jauß
* "La Vie Algorithmique" by Éric Sabir
* "Pour Une Ecologie de L'attention" by Yves Citton
* "La Couleur Des Idees" by Yves Citton
* "Bibliothèque Idées" by Hans Robert Jauß
* "La Vie Algorithmique" by Éric Sabir
* "Pour Une Ecologie de L'attention" by Yves Citton
* "La Couleur Des Idees" by Yves Citton
* "Bibliothèque Idées" by Hans Robert Jauß
* "La Vie Algorithmique" by Éric Sabir
* "Pour Une Ecologie de L'attention" by Yves Citton
* "La Couleur Des Idees" by Yves Citton
* "Bibliothèque Idées" by Hans Robert Jauß
* "La Vie Algorithmique" by Éric Sabir
* "Pour Une Ecologie de L'attention" by Yves Citton
* "La Couleur Des Idees" by Yves Citton
* "Bibliothèque Idées" by Hans Robert Jauß
* "La Vie Algorithmique" by Éric Sabir
* "Pour Une Ecologie de L'attention" by Yves Citton
* "La Couleur Des Idees" by Yves Citton
* "Bibliothèque Idées" by Hans Robert Jauß
* "La Vie Algorithmique" by Éric Sabir
* "Pour Une Ecologie de L'attention" by Yves Citton
* "La Couleur Des Idees" by Yves Citton
* "Bibliothèque Idées" by Hans Robert Jauß
* "La Vie Algorithmique" by Éric Sabir
* "Pour Une Ecologie de L'attention" by Yves Citton
* "La Couleur Des Idees" by Yves Citton
* "Bibliothèque Idées" by Hans Robert Jauß
* "La Vie Algorithmique" by Éric Sabir
* "Pour Une Ecologie de L'attention" by Yves Citton
* "La Couleur Des Idees" by Yves Citton
* "Bibliothèque Idées" by Hans Robert Jauß
* "La Vie Algorithmique" by Éric Sabir
* "Pour Une Ecologie de L'attention" by Yves Citton