Index et retrievers dans LlamaIndex
Distinguer documents, nodes, index, retrievers et query engines dans LlamaIndex pour contrôler la récupération d’un pipeline RAG.
Répertoire
Comprenez les concepts essentiels et choisissez une approche adaptée à votre projet.
Distinguer documents, nodes, index, retrievers et query engines dans LlamaIndex pour contrôler la récupération d’un pipeline RAG.
Comprendre comment vLLM gère le cache KV et regroupe dynamiquement les requêtes pour améliorer l’utilisation mémoire et le débit.
Comparer vLLM, Ollama et Text Generation Inference selon poste local, compatibilité modèles, débit GPU, exploitation et montée en charge.
Décider entre modèle Transformers local, API hébergée, prompting, RAG et fine-tuning selon qualité, données, coûts et exploitation.
Comprendre vocabulaire, sous-mots, tokens spéciaux, padding et troncature pour diagnostiquer les coûts et limites des modèles Transformers.
Utiliser l’API pipeline de Transformers pour tester une tâche, choisir explicitement un modèle et éviter les pièges de performance ou de sécurité.
Mesurer Ollama sur GPU et CPU avec des métriques utiles, comprendre les limites de mémoire et éviter les benchmarks trompeurs.
Créer un modèle Ollama dérivé avec FROM, SYSTEM et PARAMETER, le construire, le tester et éviter les personnalisations fragiles.
Comparer Ollama et une API de modèles hébergée selon confidentialité, qualité, coûts, exploitation, latence et passage à l’échelle.
Choisir un modèle Ollama selon la mémoire disponible, la quantification, la longueur de contexte, la qualité attendue et le cas d’usage.
Mettre à jour LangChain vers une release majeure avec une méthode reproductible : analyse d’impact, tests, canari, observabilité et retour arrière.
Réduire les risques d’injection de prompt et d’abus d’outils dans un agent LangChain avec validation, permissions, middleware et approbation humaine.
Instrumenter une application LangChain avec LangSmith : traces, runs, projets, métadonnées, retours utilisateurs et évaluations en production.
Évaluer séparément retrieval et génération d’un RAG LangChain avec un jeu de référence, des métriques Ragas ou DeepEval et des seuils de régression.
Diffuser les tokens et événements d’un agent LangChain, choisir le bon mode de streaming et instrumenter sans bloquer l’application.
Comprendre l’état, les nœuds, les transitions et la persistance de LangGraph pour construire un agent contrôlable et résilient.
Comparer LangChain et LlamaIndex spécifiquement pour un pipeline RAG : ingestion, index, retrieval, orchestration, évaluation et exploitation.
Planifier une migration LangChain 0.2 vers 1.x : inventaire, langchain-classic, create_agent, imports, sorties structurées et tests de non-régression.
Éviter cinq erreurs courantes avec LangChain : tutoriels obsolètes, abstraction excessive, sorties non validées, outils trop permissifs et absence d’évaluation.
Comparer LangChain et LlamaIndex selon l’orchestration, les données, le RAG, les agents et les contraintes d’exploitation.
Comprendre l’interface Retriever de LangChain et l’utiliser dans un pipeline RAG prévisible, testable et indépendant du vector store.
Transformer les réponses d’un modèle en données fiables avec StrOutputParser, Pydantic et les sorties structurées modernes de LangChain.
Créer des prompts réutilisables avec ChatPromptTemplate, séparer les rôles et valider les variables avant l’appel au modèle.
Comprendre les Runnables, la composition LCEL et la place des anciennes chains dans LangChain 1.x, avec un exemple de pipeline simple.
Regrouper plusieurs opérations SQL dans une transaction PostgreSQL, annuler en cas d’échec et anticiper les accès concurrents.
Structurer une collection Payload, définir ses champs, protéger ses opérations et organiser un workflow de brouillon avant publication.
Choisir où placer un composant Next.js selon ses données, son interactivité, les API du navigateur et le JavaScript envoyé au client.
Comparer une API d’IA hébergée et un modèle exécuté localement selon les données, le coût, la latence et l’exploitation.
Comparer JavaScript et TypeScript selon le projet, l’équipe et le coût de maintenance.
Comprendre le protocole qui permet aux navigateurs, API et serveurs d’échanger des ressources et des informations.