Aller au contenu principal
TextGrad: Automatic "Differentiation" via TextMert Yuksekgonul et al.

Fonctions objectif

En optimisation numérique et en différentiation automatique, la fonction objectif est généralement une fonction différentiable, telle que l’erreur quadratique moyenne ou l’entropie croisée. Dans TEXTGRAD, l’objectif peut être une fonction complexe et potentiellement non différentiable, où le domaine et le codomaine de la fonction peuvent être des données non structurées. Ce choix ajoute une généralité et une flexibilité importantes au cadre. Par exemple, nous montrons que l’objectif peut être spécifié en langage naturel et calculé en sollicitant un modèle de langage (§3.3), une sortie d’un interpréteur de code exécutant des tests unitaires (§3.1), ou des sorties de moteurs de simulation moléculaire (§3.4). Par exemple, une fonction de perte simple pour un extrait de code peut être la suivante :

Loss(code,target goal)=LLM(Here is a code snippet:{code}).(13)\mathrm{Loss}(\mathrm{code},\mathrm{target~goal}) = \mathrm{LLM}(\mathrm{Here~is~a~code~snippet:}\{\mathrm{code}\}). \quad (13)

Voici l’objectif de cet extrait : {target goal}\{\mathrm{target~goal}\} Évaluez l’extrait pour sa correction et sa complexité d’exécution.),

où nous pouvons utiliser ce signal d’évaluation pour optimiser l’extrait de code, grâce à la capacité bien documentée des LLM à simuler le retour humain, à s’auto-évaluer et à s’auto-améliorer [10, 28- 33].