TextGrad: Automatic "Differentiation" via TextMert Yuksekgonul et al.
摘要
AI 正在经历一场范式转变,其突破来自于编排多个大型语言模型(LLM)及其他复杂组件的系统。因此,为复合 AI 系统开发有原则的自动化优化方法是最重要的新挑战之一。神经网络在其早期也面临类似的挑战,直到反向传播和自动微分通过使优化变得开箱即用而改变了该领域。受此启发,我们提出了 TEXTGRAD,一个通过文本执行自动“微分”的强大框架。TEXTGRAD 反向传播由 LLM 提供的文本反馈,以改进复合 AI 系统的各个组件。在我们的框架中,LLM 提供丰富、通用、自然语言的建议,以优化计算图中的变量,范围从代码片段到分子结构。TEXTGRAD 遵循 PyTorch 的语法和抽象,灵活且易于使用。它在各种任务中开箱即用,用户只需提供目标函数,而无需调整框架的组件或提示。我们展示了 TEXTGRAD 在从问答和分子优化到放射治疗计划等多样应用中的有效性和通用性。在不修改框架的情况下,TEXTGRAD 将 GPT-4o 在 Google-Proof Question Answering 中的零样本准确率从 51% 提升至 55%,在优化 LeetCode-Hard 编程问题解决方案方面取得了 20% 的相对性能提升,改进了推理提示,设计了具有理想计算机模拟结合特性的新型类药小分子,并设计了具有高特异性的放射肿瘤治疗计划。TEXTGRAD 为加速下一代 AI 系统的开发奠定了基础。