El caso general
La abstracción se aplica sin dificultad a sistemas arbitrariamente complejos. Definimos un grafo de computación mediante
donde es una variable en el grafo, es el conjunto de todas las variables en el grafo, y SuccessorsOf devuelve los sucesores y PredecessorsOf devuelve los predecesores de una variable. En términos generales, el valor de puede ser datos no estructurados, como texto en lenguaje natural o imágenes. Para la mayoría de los resultados y la exposición en este artículo, es texto en lenguaje natural.
Además, sea la transformación que consume un conjunto de variables y produce la variable . Por ejemplo, podemos usar un LLM o un Simulador Numérico como transformación. Dado que distintas funciones tendrán distintas formas de calcular gradientes y recopilar retroalimentación, en general usaremos para denotar la función de gradiente de una función . En aras de la exposición, omitiremos el subíndice cuando la función sea obvia.
Los gradientes se calculan mediante
donde recopilamos el conjunto de gradientes de todos los sucesores de . Intuitivamente, obtenemos retroalimentación de cada contexto en el que se usó una variable , y los agregamos.
La ecuación 11 calcula recursivamente los gradientes del objetivo posterior con respecto a las variables deseadas en el grafo. La función toma como entrada los gradientes de con respecto a los sucesores de una variable dada , el valor de la variable y los propios sucesores. Nótese que la variable de gradiente final comprende un conjunto de contextos y críticas para cualquier lugar en el que se haya usado una variable.
Finalmente, para actualizar cualquier variable deseada en el grafo, podemos usar un optimizador:
lo cual actualiza el valor de en función de su valor actual y los gradientes. Para un grafo de cómputo con aristas, cada iteración de optimización realiza como máximo llamadas adicionales al modelo de lenguaje para calcular gradientes (1 llamada usando el operador de gradiente para cada arista del grafo de cómputo). Para ver implementaciones de operaciones en TEXTGRAD, véase el Apéndice A.