跳到主要内容
TextGrad: Automatic "Differentiation" via TextMert Yuksekgonul et al.

目标函数

在数值优化和自动微分中,目标函数通常是可微函数,例如均方误差或交叉熵。在TEXTGRAD中,目标可以是一个复杂且可能不可微的函数,其中函数的定义域和值域可以是非结构化数据。这一选择为框架增加了重要的通用性和灵活性。例如,我们展示了目标可以用自然语言文本指定并通过提示语言模型来计算(§3.3)、可以是运行单元测试的代码解释器的输出(§3.1),或分子模拟引擎的输出(§3.4)。例如,一个代码片段的简单损失函数可以如下:

Loss(code,target goal)=LLM(Here is a code snippet:{code}).(13)\mathrm{Loss}(\mathrm{code},\mathrm{target~goal}) = \mathrm{LLM}(\mathrm{Here~is~a~code~snippet:}\{\mathrm{code}\}). \quad (13)

Here is the goal for this snippet: {target goal}\{\mathrm{target~goal}\} Evaluate the snippet for correctness and runtime complexity.),

其中我们可以使用这一评估信号来优化代码片段,这得益于LLM在模拟人类反馈、自我评估和自我改进方面有充分记录的能力[10, 28-33]。