Un prompt de production est une dépendance logicielle. Il doit avoir une version, un jeu de tests, un propriétaire et une procédure de promotion ou de retour arrière.
Configurer le client
~~~bash pip install -U langsmith langchain-core ~~~
Définissez LANGSMITH_API_KEY et, si nécessaire, LANGSMITH_PROJECT dans l’environnement.
Créer et publier un prompt
~~~python from langsmith import Client from langchain_core.prompts import ChatPromptTemplate
client = Client()
prompt = ChatPromptTemplate.from_messages([ ('system', 'Tu classes les tickets. Réponds avec une catégorie autorisée.'), ('user', '{ticket}'), ])
url = client.push_prompt( 'support-classifier', object=prompt, description='Classement initial des tickets support', ) print(url) ~~~
La publication crée une révision. Utilisez un tag stable comme staging ou production pour désigner la version active, plutôt que de modifier tous les consommateurs.
Charger la version dans l’application
~~~python prompt = client.pull_prompt('support-classifier:production') messages = prompt.invoke({'ticket': user_text}) ~~~
Prévoyez un cache et un comportement explicite si LangSmith est indisponible : dernière version validée ou arrêt contrôlé. Ne basculez jamais silencieusement vers un prompt inconnu.
Construire un dataset d’évaluation
Ajoutez des exemples avec entrée, sortie attendue et métadonnées : langue, difficulté, présence de données sensibles. Gardez un jeu de non-régression couvrant les incidents déjà rencontrés.
Comparez l’ancienne et la nouvelle version sur le même modèle et les mêmes paramètres. Mesurez exactitude métier, format valide, latence, tokens et erreurs. Un score LLM-as-judge peut compléter, pas remplacer, les règles déterministes et la revue humaine.
Promouvoir
La promotion change le tag production vers une révision déjà évaluée. Enregistrez auteur, date, résultats et motif. Le rollback consiste à replacer le tag sur le commit précédent ; testez cette opération avant un incident.
Production
Reliez chaque trace au commit du prompt, au modèle et à la version de l’application. Restreignez les droits de publication. Les variables utilisateur restent des données : délimitez-les et ne leur permettez pas de modifier les règles système.
FAQ
Git suffit-il pour versionner les prompts ?
Git conserve le texte, mais une plateforme relie plus directement version, tests, traces et promotion. Les deux peuvent être utilisés ensemble.
Quand créer une nouvelle version ?
À chaque changement susceptible d’affecter la sortie, y compris exemple, schéma, outil ou instruction système.