Funciones objetivo
En la optimización numérica y la diferenciación automática, la función objetivo suele ser una función diferenciable, como el error cuadrático medio o la entropía cruzada. En TEXTGRAD, el objetivo puede ser una función compleja y potencialmente no diferenciable, donde el dominio y el codominio de la función pueden ser datos no estructurados. Esta elección añade una generalidad y flexibilidad importantes al marco. Por ejemplo, demostramos que el objetivo puede especificarse en texto en lenguaje natural y calcularse mediante un prompt a un modelo de lenguaje (§3.3), una salida de un intérprete de código que ejecuta pruebas unitarias (§3.1), o salidas de motores de simulación molecular (§3.4). Por ejemplo, una función de pérdida simple para un fragmento de código puede ser la siguiente:
Aquí está el objetivo para este fragmento: Evalúa el fragmento en cuanto a corrección y complejidad de tiempo de ejecución.),
donde podemos usar esta señal de evaluación para optimizar el fragmento de código, impulsado por la bien documentada capacidad de los LLM para simular retroalimentación humana, autoevaluarse y auto-mejorarse [10, 28-33].