Ir al contenido principal
TextGrad: Automatic "Differentiation" via TextMert Yuksekgonul et al.

Funciones objetivo

En la optimización numérica y la diferenciación automática, la función objetivo suele ser una función diferenciable, como el error cuadrático medio o la entropía cruzada. En TEXTGRAD, el objetivo puede ser una función compleja y potencialmente no diferenciable, donde el dominio y el codominio de la función pueden ser datos no estructurados. Esta elección añade una generalidad y flexibilidad importantes al marco. Por ejemplo, demostramos que el objetivo puede especificarse en texto en lenguaje natural y calcularse mediante un prompt a un modelo de lenguaje (§3.3), una salida de un intérprete de código que ejecuta pruebas unitarias (§3.1), o salidas de motores de simulación molecular (§3.4). Por ejemplo, una función de pérdida simple para un fragmento de código puede ser la siguiente:

Loss(code,target goal)=LLM(Here is a code snippet:{code}).(13)\mathrm{Loss}(\mathrm{code},\mathrm{target~goal}) = \mathrm{LLM}(\mathrm{Here~is~a~code~snippet:}\{\mathrm{code}\}). \quad (13)

Aquí está el objetivo para este fragmento: {target goal}\{\mathrm{target~goal}\} Evalúa el fragmento en cuanto a corrección y complejidad de tiempo de ejecución.),

donde podemos usar esta señal de evaluación para optimizar el fragmento de código, impulsado por la bien documentada capacidad de los LLM para simular retroalimentación humana, autoevaluarse y auto-mejorarse [10, 28-33].