Zum Hauptinhalt springen
TextGrad: Automatic "Differentiation" via TextMert Yuksekgonul et al.

A.4 Implementierung des textuellen Gradientenabstiegs

Ähnlich wie bei den Backward-Berechnungen sind wir bestrebt, die Allgemeinheit in der Implementierung von TGD zu bewahren. Insbesondere verwenden wir das gleiche Glossar von Tags, das oben bereitgestellt wurde, um Informationen in den Optimierungsprozess einzuspeisen.

Der aktuelle System-Prompt für den Optimizer-Aufruf lautet wie folgt:

System-Prompt für den TextualGradientDescent-Optimizer.

Sie sind Teil eines Optimierungssystems, das Text (d. h. eine Variable) verbessert. Sie werden gebeten, Prompts, Lösungen für Probleme, Code oder jede andere textbasierte Variable kreativ und kritisch zu verbessern. Sie erhalten Feedback und verwenden das Feedback, um die Variable zu verbessern. Das Feedback kann verrauscht sein; identifizieren Sie, was wichtig und was korrekt ist. Achten Sie auf die Rollenbeschreibung der Variable und den Kontext, in dem sie verwendet wird. Dies ist sehr wichtig: Sie MÜSSEN Ihre Antwort geben, indem Sie die verbesserte Variable zwischen &lt;IMPROVED_VARIABLE&gt; verbesserte Variable </IMPROVED_VARIABLE> Tags senden. Der Text, den Sie zwischen den Tags senden, ersetzt direkt die Variable. (GLOSSAR)

Im Folgenden finden Sie ein Beispiel-Prompt für den Optimizer:

Ein Beispiel-Prompt für den Optimizer

Hier ist die Rolle der Variable, die Sie verbessern werden: &lt;ROLE&gt;System-Prompt für das Sprachmodell&lt;/role&gt;. Die Variable ist der Text innerhalb der folgenden Spanne: &lt;VARIABLE&gt; Sie werden eine Schlussfolgerungsfrage beantworten. Denken Sie Schritt für Schritt. (...) folgendes Format: 'Answer: §\S VALUE', wobei VALUE ein numerischer Wert ist. &lt;/variable&gt; Hier ist der Kontext und das Feedback, das wir für die Variable erhalten haben: &lt;CONTEXT&gt; Hier ist eine Konversation: &lt;CONVERSATION&gt; &lt;LM_SYSTEM_PROMPT&gt; Sie werden eine Schlussfolgerungsfrage beantworten. Denken Sie Schritt für Schritt. Die letzte Zeile Ihrer Antwort sollte das folgende Format haben: 'Answer: §\S VALUE', wobei VALUE ein numerischer Wert ist. </LM_SYSTEM_PROMPT> &lt;LM_INPUT&gt; Ich habe eine Karotte, eine Zwiebel, eine Selleriestange, drei Yams, einen Knoblauch, einen Brokkolikopf und eine Kartoffel. Wie viele Gemüse habe ich? </LM_INPUT> &lt;LM_OUTPUT&gt; Um die Anzahl der Gemüse zu bestimmen, die Sie haben, müssen wir jedes einzelne Gemüseelement zählen. 1. Karotte 2. Zwiebel 3. Sellerie 4. Yams (3 Yams) 5. Knoblauch 6. Brokkoli 7. Kartoffel Wenn wir alle einzelnen Gemüseelemente zählen, haben wir insgesamt 7 Gemüse. Daher haben Sie 7 Gemüse. Answer: 7</LM_OUTPUT>7< / \mathrm{LM\_OUTPUT}> &lt;/CONVERSATION&gt; Diese Konversation ist möglicherweise Teil eines größeren Systems. Die Ausgabe wird als Antwort des Sprachmodells verwendet. Hier ist das Feedback, das wir für den System-Prompt an das Sprachmodell in der Konversation erhalten haben: &lt;FEEDBACK&gt;Um den strukturierten System-Prompt für das Sprachmodell zu verbessern, beachten Sie das folgende Feedback: 1. \Klären Sie den Berechnungsprozess\\: - \Aktuelles Problem\: Der Prompt weist das Modell nicht ausdrücklich an, jeden Schritt seines Berechnungsprozesses zu beschreiben. - \\Verbesserung\: Fügen Sie eine Anweisung hinzu, die vom Modell verlangt, jede Menge und die Summe ausdrücklich anzugeben. Zum Beispiel: 'Beschreiben Sie klar jeden Schritt Ihres Berechnungsprozesses und geben Sie jede Menge und die Summe an.' 2. \Überprüfen Sie Zwischenschritte\\: - \Aktuelles Problem\: Der Prompt weist das Modell nicht an, jeden Zwischenschritt zu überprüfen. - \\Verbesserung\: Fügen Sie eine Anweisung hinzu, dass das Modell jeden Schritt gegen bekannte korrekte Werte überprüfen soll. Zum Beispiel: 'Überprüfen Sie jeden Zwischenschritt Ihrer Berechnung, um Genauigkeit zu gewährleisten.' &lt;/FEEDBACK&gt; &lt;/CONTEXT&gt; Verbessern Sie die Variable (System-Prompt für das Sprachmodell) unter Verwendung des in den &lt;FEEDBACK&gt; Tags bereitgestellten Feedbacks. Senden Sie die verbesserte Variable im folgenden Format: &lt;IMPROVED_VARIABLE&gt;die verbesserte Variable</IMPROVED_VARIABLE> Senden Sie NUR die verbesserte Variable zwischen den &lt;IMPROVED_VARIABLE&gt; Tags und nichts anderes.