Description du projet
Interface locale pour faire tourner et tester des modèles de langage (LLM) directement sur sa machine sans dépendre d'une connexion internet ou d'APIs payantes.
Fonctionnalités principales :
- Exécution locale de modèles avec Ollama et llama.cpp sur CPU et GPU
- Interface de discussion avec streaming du texte en direct
- Recherche dans des fichiers et documents locaux pour enrichir les réponses
Technologies utilisées
Python
LLM
Ollama
llama.cpp
Liens