Ir al contenido principal
TextGrad: Automatic "Differentiation" via TextMert Yuksekgonul et al.

A.4 Implementación del descenso de gradiente textual

De manera similar a los cálculos backward, nos esforzamos por preservar la generalidad en la implementación de TGD. En particular, usamos el mismo glosario de etiquetas proporcionado arriba para inyectar información al proceso de optimización.

El prompt del sistema actual para la llamada al optimizador es el siguiente:

Prompt del sistema para el optimizador TextualGradientDescent.

Eres parte de un sistema de optimización que mejora texto (es decir, una variable). Se te pedirá que mejores de manera creativa y crítica prompts, soluciones a problemas, código o cualquier otra variable basada en texto. Recibirás retroalimentación y usarás la retroalimentación para mejorar la variable. La retroalimentación puede ser ruidosa; identifica qué es importante y qué es correcto. Presta atención a la descripción del rol de la variable y al contexto en el que se usa. Esto es muy importante: DEBES dar tu respuesta enviando la variable mejorada entre las etiquetas &lt;IMPROVED_VARIABLE&gt; improved variable </IMPROVED_VARIABLE>. El texto que envíes entre las etiquetas reemplazará directamente la variable. (GLOSSARY)

A continuación se muestra un prompt de ejemplo para el optimizador:

Un prompt de ejemplo para el optimizador

Aquí está el rol de la variable que mejorarás: &lt;ROLE&gt;prompt del sistema para el modelo de lenguaje&lt;/role&gt;. La variable es el texto dentro del siguiente fragmento: &lt;VARIABLE&gt; Responderás una pregunta de razonamiento. Piensa paso a paso. (...) el siguiente formato: 'Answer: §\S VALUE' donde VALUE es un valor numérico. &lt;/variable&gt; Aquí está el contexto y la retroalimentación que recibimos para la variable: &lt;CONTEXT&gt; Aquí hay una conversación: &lt;CONVERSATION&gt; &lt;LM_SYSTEM_PROMPT&gt; Responderás una pregunta de razonamiento. Piensa paso a paso. La última línea de tu respuesta debe tener el siguiente formato: 'Answer: §\S VALUE' donde VALUE es un valor numérico. </LM_SYSTEM_PROMPT> &lt;LM_INPUT&gt; Tengo una zanahoria, una cebolla, un tallo de apio, tres batatas, un ajo, una cabeza de brócoli y una papa. ¿Cuántas verduras tengo? </LM_INPUT> &lt;LM_OUTPUT&gt; Para determinar la cantidad de verduras que tienes, necesitamos contar cada elemento vegetal individual. 1. Zanahoria 2. Cebolla 3. Apio 4. Batatas (3 batatas) 5. Ajo 6. Brócoli 7. Papa Contando todos los elementos vegetales individuales, tenemos un total de 7 verduras. Por lo tanto, tienes 7 verduras. Answer: 7</LM_OUTPUT>7< / \mathrm{LM\_OUTPUT}> &lt;/CONVERSATION&gt; Esta conversación es potencialmente parte de un sistema más grande. La salida se usa como respuesta del modelo de lenguaje. Aquí está la retroalimentación que recibimos para el prompt del sistema del modelo de lenguaje en la conversación: &lt;FEEDBACK&gt;Para mejorar el prompt del sistema estructurado para el modelo de lenguaje, considera la siguiente retroalimentación: 1. \Aclarar el proceso de cálculo\\: - \Problema actual\: El prompt no indica explícitamente al modelo que describa cada paso de su proceso de cálculo. - \\Mejora\: Agrega una directiva que requiera que el modelo exponga explícitamente cada cantidad y la suma. Por ejemplo, 'Describe claramente cada paso de tu proceso de cálculo, indicando cada cantidad y la suma.' 2. \Verificar los pasos intermedios\\: - \Problema actual\: El prompt no indica al modelo que verifique cada paso intermedio. - \\Mejora\: Incluye una directiva para que el modelo verifique cada paso con respecto a valores correctos conocidos. Por ejemplo, 'Verifica cada paso intermedio de tu cálculo para garantizar la precisión.' &lt;/FEEDBACK&gt; &lt;/CONTEXT&gt; Mejora la variable (prompt del sistema para el modelo de lenguaje) usando la retroalimentación proporcionada en las etiquetas &lt;FEEDBACK&gt;. Envía la variable mejorada en el siguiente formato: &lt;IMPROVED_VARIABLE&gt;la variable mejorada</IMPROVED_VARIABLE> Envía SOLO la variable mejorada entre las etiquetas &lt;IMPROVED_VARIABLE&gt;, y nada más.