メインコンテンツへスキップ
TextGrad: Automatic "Differentiation" via TextMert Yuksekgonul et al.

概要

AIはパラダイムシフトの途上にあり、複数の大規模言語モデル(LLM)やその他の複雑なコンポーネントを編成するシステムによってブレークスルーが達成されている。その結果、複合AIシステムのための原理的かつ自動化された最適化手法の開発は、最も重要な新たな課題の一つとなっている。ニューラルネットワークもその初期には同様の課題に直面していたが、誤差逆伝播法と自動微分がこの分野を変革し、最適化をターンキーなものにした。これに着想を得て、我々はテキストによる自動「微分」を実行する強力なフレームワークであるTEXTGRADを導入する。TEXTGRADは、LLMが提供するテキストフィードバックを逆伝播させ、複合AIシステムの個々のコンポーネントを改善する。我々のフレームワークでは、LLMが計算グラフ内の変数を最適化するための豊かで汎用的な自然言語による提案を提供する。変数はコードスニペットから分子構造にまで及ぶ。TEXTGRADはPyTorchの構文と抽象化に従っており、柔軟で使いやすい。ユーザーがフレームワークのコンポーネントやプロンプトを調整することなく目的関数を提供するだけで、さまざまなタスクに対してすぐに使用できる。我々は、質問応答や分子最適化から放射線治療計画に至るまで、多様なアプリケーションにわたるTEXTGRADの有効性と汎用性を示す。フレームワークを変更することなく、TEXTGRADはGoogle-Proof Question AnsweringにおけるGPT-4oのゼロショット精度を51%から55%に改善し、LeetCode-Hardコーディング問題の解法の最適化において20%の相対的性能向上をもたらし、推論のためのプロンプトを改善し、望ましいin silico結合を持つ新規の薬剤様小分子を設計し、高い特異性を持つ放射線腫瘍学治療計画を設計する。TEXTGRADは、次世代AIシステムの開発を加速するための基盤を築くものである。