Zum Hauptinhalt springen
TextGrad: Automatic "Differentiation" via TextMert Yuksekgonul et al.

5 Diskussion

TextGrad basiert auf drei Schlüsselprinzipien: i) Es ist ein allgemeines und leistungsfähiges Framework, das nicht für einen bestimmten Anwendungsbereich handgefertigt ist, ii) es ist einfach zu verwenden und spiegelt die PyTorch-Abstraktionen wider, wodurch Wissenstransfer ermöglicht wird, iii) es ist vollständig Open Source. Durch TEXTGRAD erzielten wir modernste Ergebnisse bei der Code-Optimierung und bei Fragenbeantwortung auf PhD-Niveau, optimierten Prompts und lieferten Proof-of-Concept-Ergebnisse in wissenschaftlichen Anwendungen wie der Entwicklung von Molekülen und der Optimierung von Behandlungsplänen.

Obwohl wir einen ersten Schritt unternommen haben, gibt es verschiedene Einschränkungen, die zukünftige Arbeiten motivieren, das Potenzial von durch LLMs unterstützten Frameworks für automatische Differenzierung zu realisieren. Erstens: Obwohl wir das Potenzial der Rückpropagierung von Textfeedback demonstriert haben, gibt es viele Anwendungen, auf die unser Framework erweitert werden kann. Wir hoffen, dass TEXTGRAD genutzt werden kann, um iterative Prozesse in der wissenschaftlichen Entdeckung zu beschleunigen und die Produktivität von Ingenieursarbeiten zu steigern. Um dies beispielsweise zu ermöglichen, hoffen wir, die Operationen in unseren Berechnungsgraphen um weitere Komponenten zu erweitern, die in praktischen LLM-Anwendungen verwendet werden, etwa für Tool-Nutzung [83] oder retrieval-augmentierte Generierungssysteme [93]. Zweitens ermöglicht die Analogie zur automatischen Differenzierung einen großen Designraum für Algorithmen. Wir glauben, dass sich viele fruchtbare Verbindungen zwischen numerischer Optimierung, automatischer Differenzierung und TEXTGRAD ziehen lassen. Insbesondere die Erhöhung der Stabilität der Optimierung mithilfe von Varianzreduktionstechniken [94], adaptiven Gradienten [95] oder Selbstverifikation mithilfe von LLMs [96] sind interessante Verbindungen. Meta-Lern-Ansätze [97–99] zur Optimierung des TextGrad-Frameworks mit Methoden wie TextGrad selbst sind ebenfalls eine faszinierende Richtung für zukünftige Arbeiten.

Schließlich: Obwohl wir Proof-of-Concept-Anwendungen von TEXTGRAD zur Gestaltung neuer Moleküle und Behandlungspläne mit In-silico-Validierungen durchgeführt haben, erfordert der ultimative Test experimentelle und klinische Bewertungen, die außerhalb des Rahmens dieser Arbeit liegen.

Da sich das Paradigma der KI vom Training einzelner Modelle zur Optimierung zusammengesetzter Systeme verschiebt, die mehrere interagierende LLM-Komponenten und Tools umfassen, benötigen wir eine neue Generation automatisierter Optimierer. TEXTGRAD kombiniert die Argumentationsfähigkeit von LLMs mit der zerlegbaren Effizienz der Rückpropagierung, um ein allgemeines Framework zur Optimierung von KI-Systemen zu schaffen.