5 Discusión
TextGrad se basa en tres principios clave: i) Es un marco general y de alto rendimiento que no está hecho a mano para un dominio de aplicación específico, ii) Es fácil de usar, reflejando las abstracciones de PyTorch y permitiendo así la transferencia de conocimiento, iii) Es completamente de código abierto. A través de TEXTGRAD, obtuvimos resultados de vanguardia en optimización de código y respuesta a preguntas de nivel doctoral, optimizamos indicaciones y proporcionamos resultados de prueba de concepto en aplicaciones científicas como el desarrollo de moléculas y la optimización de planes de tratamiento.
Si bien dimos un primer paso, existen varias limitaciones que motivan trabajo futuro para realizar el potencial de los marcos de diferenciación automática impulsados por LLM. Primero, si bien demostramos el potencial de la retropropagación de retroalimentación textual, hay muchas aplicaciones a las que nuestro marco puede extenderse. Esperamos que TEXTGRAD pueda usarse para acelerar procesos iterativos en el descubrimiento científico y aumentar la productividad de los esfuerzos de ingeniería. Por ejemplo, para permitir esto, esperamos extender las operaciones en nuestros grafos de computación para incluir más componentes usados en aplicaciones prácticas de LLM, como para el uso de herramientas [83] o sistemas de generación aumentada por recuperación [93]. Segundo, la analogía de la diferenciación automática habilita un gran espacio de diseño para algoritmos. Creemos que hay muchas conexiones fructíferas por establecer entre la optimización numérica, la diferenciación automática y TEXTGRAD. En particular, aumentar la estabilidad de la optimización usando técnicas de reducción de varianza [94], gradientes adaptativos [95] o autoverificación usando LLM [96] son conexiones interesantes. Los enfoques de metaaprendizaje [97-99] para optimizar el marco de TextGrad usando métodos como el propio TextGrad también son una dirección intrigante para trabajo futuro.
Finalmente, si bien realizamos aplicaciones de prueba de concepto de TEXTGRAD para diseñar nuevas moléculas y planes de tratamiento con validaciones in silico, la prueba definitiva requiere evaluaciones experimentales y clínicas, que están fuera del alcance de este artículo.
A medida que el paradigma de la IA cambia del entrenamiento de modelos individuales a la optimización de sistemas compuestos que involucran múltiples componentes de LLM y herramientas que interactúan, necesitamos una nueva generación de optimizadores automáticos. TEXTGRAD combina el poder de razonamiento de los LLM con la eficiencia descomponible de la retropropagación para crear un marco general para optimizar sistemas de IA.