Zum Hauptinhalt springen
TextGrad: Automatic "Differentiation" via TextMert Yuksekgonul et al.

Instanz- vs. Prompt-Optimierung

Es gibt zwei Klassen von Optimierungsproblemen, die wir untersuchen.

Bei der Instanzoptimierung behandeln wir direkt eine Lösung für ein Problem – z. B. einen Codeausschnitt, die Lösung eines Problems oder ein Molekül – als Optimierungsvariable. In Gleichung 13 haben wir beispielsweise eine Codeinstanz, die wir zur Testzeit verbessern möchten. Unser Framework erzeugt die Gradienten für die Codevariable und optimiert sie direkt.

Bei der Prompt-Optimierung besteht das Ziel darin, einen Prompt zu finden, der die Leistung eines LLM über mehrere Anfragen hinweg für eine Aufgabe verbessert. Beispielsweise möchten wir möglicherweise einen System-Prompt für ein LLM finden, der die Leistung bei mathematischen Denkaufgaben verbessert (siehe Abschnitt 3.3 für Beispiele). Insbesondere möchten wir, dass der System-Prompt generalisiert, im Gegensatz zur Instanzoptimierung, bei der das einzige Ziel darin besteht, die Lösung für eine gegebene Anfrage zur Testzeit zu verbessern.

Entscheidend ist, dass beide Arten von Problemen gelöst werden können, ohne das Framework von Hand zu erstellen.