본문으로 건너뛰기
TextGrad: Automatic "Differentiation" via TextMert Yuksekgonul et al.

인스턴스 최적화 대 프롬프트 최적화

우리가 탐구하는 두 가지 종류의 최적화 문제가 있습니다.

인스턴스 최적화에서는 문제에 대한 해답—예를 들어, 코드 스니펫, 문제에 대한 해답 또는 분자—을 최적화 변수로 직접 취급합니다. 예를 들어, 방정식 13에서 우리는 테스트 시점에 개선하고자 하는 코드 인스턴스를 가지고 있습니다. 우리의 프레임워크는 코드 변수에 대한 그레이디언트를 생성하고 직접 최적화합니다.

프롬프트 최적화에서는 과제에 대한 여러 쿼리에 걸쳐 LLM의 성능을 향상시키는 프롬프트를 찾는 것이 목표입니다. 예를 들어, 우리는 수학적 추론 질문에 대한 성능을 향상시키는 LLM에 대한 시스템 프롬프트를 찾고자 할 수 있습니다(예시는 섹션 3.3 참조). 특히, 우리는 시스템 프롬프트가 일반화되기를 원하는데, 이는 테스트 시점에 주어진 쿼리에 대한 해답을 개선하는 것만이 유일한 목표인 인스턴스 최적화와 대조됩니다.

결정적으로, 두 유형의 문제 모두 프레임워크를 수작업으로 설계하지 않고도 해결할 수 있습니다.