Optimiser des requêtes

Ce document explique comment utiliser l'optimiseur de prompts de la plate-forme d'agents Gemini Enterprise pour optimiser automatiquement les performances des prompts en améliorant les instructions système d'un ensemble de prompts.

L'optimiseur de prompts de l'Agent Platform peut vous aider à améliorer rapidement vos prompts à grande échelle, sans avoir à réécrire manuellement les instructions système ni les prompts individuels. Cela est utile lorsque vous passez d'un modèle à un autre et que vous souhaitez réutiliser les instructions système et les requêtes.

Les approches suivantes sont disponibles pour optimiser les requêtes :

  • L'optimiseur zero-shot est un optimiseur à faible latence en temps réel qui améliore un seul modèle de prompt ou d'instruction système. Il est rapide et ne nécessite aucune configuration supplémentaire, si ce n'est de fournir votre requête ou instruction système d'origine. L'optimiseur zero-shot est indépendant du modèle et peut améliorer les requêtes pour la plupart des modèlesGoogle . Il fournit également un mode gemini_nano pour optimiser spécifiquement les requêtes pour les modèles plus petits, tels que Gemini Nano et Gemma 3n E4B.
  • L'optimiseur few-shot est un optimiseur en temps réel à faible latence qui affine les instructions du système en analysant les exemples où la réponse d'un modèle n'a pas répondu aux attentes. En fournissant des exemples spécifiques de requêtes, de réponses de modèle et de commentaires sur ces réponses, vous pouvez améliorer systématiquement les performances des requêtes.
  • L'optimiseur basé sur les données est un optimiseur itératif au niveau des tâches par lot qui améliore les requêtes en évaluant la réponse du modèle à des exemples de requêtes étiquetées par rapport aux métriques d'évaluation spécifiées pour le modèle cible sélectionné. Il s'agit d'une optimisation plus avancée qui vous permet de configurer les paramètres d'optimisation et de fournir quelques exemples étiquetés. De plus, l'optimiseur basé sur les données est compatible avec l'optimisation des modèles Gemini généralement disponibles, tels que Gemini Nano et Gemma 3n E4B, ainsi que des modèles personnalisés déployés localement ou à partir du modèle Gemini Enterprise Agent Platform Model Garden.

Ces méthodes sont disponibles pour les utilisateurs via la console Google Cloud ou le SDK Vertex AI.

Étapes suivantes