Zum Hauptinhalt springen
TextGrad: Automatic "Differentiation" via TextMert Yuksekgonul et al.

Eingeschränkte Optimierung mit natürlichsprachlichen Einschränkungen

In TEXTGRAD ist es möglich, Einschränkungen bei der Optimierung von Variablen zu verwenden. Diese Einschränkungen sind alle als natürlichsprachliche Beschreibungen definiert. Beispielsweise kann man den Optimizer anweisen, die Variable zu aktualisieren, seine Antwort während der Aktualisierung jedoch mit einer Antwort abzuschließen:

Beispiel-Prompt für eingeschränkte Optimierung

Sie müssen die folgenden Einschränkungen befolgen: <CONSTRAINTS> 'Die letzte Zeile Ihrer Antwort sollte das folgende Format haben: 'Answer: $LETTER', wobei LETTER einer von ABCD ist."</constraints>

Im Allgemeinen wird der Constraint-Postfix an den Prompt des Optimizers angehängt, wobei die Einschränkungen innerhalb der <CONSTRAINTS> {constraint text} </constraints> Tags geschrieben werden.

Im Code kann der Benutzer die Einschränkungen einfach an den TGD-Optimizer übergeben:

1 constraints = ["The last line of your response should be of the following format: 'Answer: \(LETTER' where LETTER is one of ABCD."] 2 optimizer = TextualGradientDescent(parameters=[solution], constraints=constraints)

Code-Snippet 5: Ein Beispiel für die Verwendung von Einschränkungen beim Aktualisieren der Lösung für ein Problem.