TextGrad: Automatic "Differentiation" via TextMert Yuksekgonul et al.
实例优化与提示优化
我们探索两类优化问题。
在实例优化中,我们直接将问题的解——例如代码片段、问题的解或分子——视为优化变量。例如,在公式13中,我们有一个希望在测试时改进的代码实例。我们的框架为代码变量产生梯度并直接优化它。
在提示优化中,目标是找到一个提示,能够提高LLM在任务多个查询上的性能。例如,我们可能希望找到一个LLM的系统提示,以提高在数学推理问题上的性能(示例见第3.3节)。特别地,我们希望系统提示能够泛化,这与实例优化不同,后者唯一的目标是在测试时改进给定查询的解。
至关重要的是,这两类问题都可以在不手工设计框架的情况下解决。