TextGrad: Automatic "Differentiation" via TextMert Yuksekgonul et al.
带自然语言约束的约束优化
在 TEXTGRAD 中,优化变量时可以使用约束。这些约束全部以自然语言描述的形式定义。例如,可以提示优化器更新变量,但在更新过程中要以一个答案来结束其响应:
约束优化提示示例
你必须遵循以下约束:<CONSTRAINTS> '你响应的最后一行应采用以下格式:'Answer: $LETTER',其中 LETTER 为 ABCD 之一。"</constraints>
一般而言,约束后缀会被附加到优化器的提示中,其中约束写在 <CONSTRAINTS> {constraint text} </constraints> 标签内。
在代码中,用户只需将约束传入 TGD 优化器即可:
1 constraints = ["The last line of your response should be of the following format: 'Answer: \(LETTER' where LETTER is one of ABCD."] 2 optimizer = TextualGradientDescent(parameters=[solution], constraints=constraints)
代码片段 5:在更新问题解时使用约束的示例。