llama.cpp

Moteur d’inférence C/C++ optimisé pour exécuter des modèles GGUF sur de nombreux matériels, du CPU au GPU.

Classification de la technologie

Type

Intelligence artificielle

Technologie

llama.cpp

Autres noms : llama cpp

llama.cpp fournit des outils et une bibliothèque C/C++ pour l’inférence locale. Son format GGUF et ses mécanismes de quantification sont utilisés par de nombreux outils de l’écosystème, dont Ollama.

Licence: MIT
Langage principal: C++
État des informations: Vérifiées récemment
Dernière vérification: 10 août 2026

Performances GPU ou CPU avec Ollama
Mesurer Ollama sur GPU et CPU avec des métriques utiles, comprendre les limites de mémoire et éviter les benchmarks trompeurs.
Choisir un modèle local : taille, quantification et usage
Choisir un modèle Ollama selon la mémoire disponible, la quantification, la longueur de contexte, la qualité attendue et le cas d’usage.

Sources utilisées

llama.cpp — dépôt officiel (s’ouvre dans un nouvel onglet) — ggml-org

llama.cpp

Classification de la technologie

Type

Technologie

Guides et tutoriels sur llama.cpp

Performances GPU ou CPU avec Ollama

Choisir un modèle local : taille, quantification et usage

Sources utilisées