본문으로 건너뛰기
TextGrad: Automatic "Differentiation" via TextMert Yuksekgonul et al.

목적 함수

수치 최적화와 자동 미분에서, 목적 함수는 일반적으로 평균 제곱 오차나 교차 엔트로피와 같은 미분 가능한 함수이다. TEXTGRAD에서, 목적 함수는 복잡하고 잠재적으로 미분 불가능한 함수일 수 있으며, 함수의 정의역과 공역은 비구조적 데이터일 수 있다. 이러한 선택은 프레임워크에 중요한 일반성과 유연성을 더한다. 예를 들어, 우리는 목적 함수가 자연어 텍스트로 명시되고 언어 모델을 프롬프트하여 계산될 수 있음(§3.3), 단위 테스트를 실행하는 코드 인터프리터의 출력(§3.1), 또는 분자 시뮬레이션 엔진의 출력(§3.4)일 수 있음을 보여준다. 예를 들어, 코드 스니펫에 대한 간단한 손실 함수는 다음과 같을 수 있다:

$$\mathrm{Loss}(\mathrm{code},\mathrm{target~goal}) = \mathrm{LLM}(\mathrm{Here~is~a~code~snippet:}\{\mathrm{code}\}). \quad (13)$$”

다음은 번역할 스니펫의 목표입니다: {target goal}\{\mathrm{target~goal}\} 스니펫의 정확성과 런타임 복잡성을 평가하십시오.),

여기서 우리는 이 평가 신호를 사용하여 코드 스니펫을 최적화할 수 있으며, 이는 인간 피드백을 시뮬레이션하고, 자기 평가하고, 자기 개선하는 LLM의 잘 문서화된 능력에 의해 뒷받침됩니다 [10, 28-33].