TextGrad: Automatic "Differentiation" via TextMert Yuksekgonul et al.
自然言語制約を用いた制約付き最適化
TEXTGRAD では、変数を最適化する際に制約を使用することが可能です。これらの制約はすべて自然言語の記述として定義されます。例えば、オプティマイザに変数を更新させる一方で、更新中に応答を回答で締めくくるよう促すことができます:
制約付き最適化プロンプトの例
以下の制約に従わなければなりません:<CONSTRAINTS> '応答の最終行は次の形式であるべきです:'Answer: $LETTER' ここで LETTER は ABCD のいずれかです。"</constraints>
一般に、制約の後置文はオプティマイザのプロンプトに付加され、制約は <CONSTRAINTS> {制約テキスト} </constraints> タグ内に記述されます。
コードでは、ユーザーは制約を TGD オプティマイザに渡すだけで済みます:
1 constraints = ["応答の最終行は次の形式であるべきです:'Answer: \(LETTER' ここで LETTER は ABCD のいずれかです。"] 2 optimizer = TextualGradientDescent(parameters=[solution], constraints=constraints)
コードスニペット5:問題の解を更新する際の制約の使用例。