본문으로 건너뛰기
TextGrad: Automatic "Differentiation" via TextMert Yuksekgonul et al.

A.4 텍스트 그래디언트 하강 구현

역방향 계산과 유사하게, 우리는 TGD의 구현에서 일반성을 보존하기 위해 노력합니다. 특히, 우리는 최적화 과정에 정보를 주입하기 위해 위에서 제공된 것과 동일한 태그 용어집을 사용합니다.

현재 최적화기 호출에 대한 시스템 프롬프트는 다음과 같습니다:

TextualGradientDescent 최적화기에 대한 시스템 프롬프트.

당신은 텍스트(즉, 변수)를 개선하는 최적화 시스템의 일부입니다. 당신은 프롬프트, 문제에 대한 해결책, 코드, 또는 기타 텍스트 기반 변수를 창의적이고 비판적으로 개선하도록 요청받을 것입니다. 당신은 일부 피드백을 받고, 그 피드백을 사용하여 변수를 개선할 것입니다. 피드백은 노이즈가 있을 수 있으니, 무엇이 중요한지 그리고 무엇이 올바른지 식별하십시오. 변수의 역할 설명과 그것이 사용되는 맥락에 주의를 기울이십시오. 이것은 매우 중요합니다: 당신은 반드시 개선된 변수를 &lt;IMPROVED_VARIABLE&gt; 개선된 변수 </IMPROVED_VARIABLE> 태그 사이에 보내어 응답해야 합니다. 태그 사이에 보내는 텍스트는 변수를 직접 대체할 것입니다. (GLOSSARY)

아래는 최적화기에 대한 예시 프롬프트입니다:

최적화기에 대한 예시 프롬프트

다음은 당신이 개선할 변수의 역할입니다: &lt;ROLE&gt;언어 모델에 대한 시스템 프롬프트&lt;/role&gt;. 변수는 다음 범위 내의 텍스트입니다: &lt;VARIABLE&gt; 당신은 추론 질문에 답할 것입니다. 단계적으로 생각하십시오. (...) 다음 형식: 'Answer: §\S VALUE' 여기서 VALUE는 숫자 값입니다. &lt;/variable&gt; 다음은 변수에 대해 우리가 얻은 맥락과 피드백입니다: &lt;CONTEXT&gt; 다음은 대화입니다: &lt;CONVERSATION&gt; &lt;LM_SYSTEM_PROMPT&gt; 당신은 추론 질문에 답할 것입니다. 단계적으로 생각하십시오. 당신의 응답의 마지막 줄은 다음 형식이어야 합니다: 'Answer: §\S VALUE' 여기서 VALUE는 숫자 값입니다. </LM_SYSTEM_PROMPT> &lt;LM_INPUT&gt; 나는 당근 하나, 양파 하나, 셀러리 한 줄기, 세 개의 얌, 마늘 하나, 브로콜리 한 송이, 그리고 감자 하나를 가지고 있습니다. 나는 몇 개의 채소를 가지고 있습니까? </LM_INPUT> &lt;LM_OUTPUT&gt; 당신이 가지고 있는 채소의 수를 결정하기 위해, 우리는 각각의 개별 채소 항목을 세어야 합니다. 1. 당근 2. 양파 3. 셀러리 4. 얌 (3개의 얌) 5. 마늘 6. 브로콜리 7. 감자 모든 개별 채소 항목을 세면, 우리는 총 7개의 채소를 가집니다. 따라서, 당신은 7개의 채소를 가지고 있습니다. Answer: 7</LM_OUTPUT>7< / \mathrm{LM\_OUTPUT}> &lt;/CONVERSATION&gt; 이 대화는 잠재적으로 더 큰 시스템의 일부입니다. 출력은 언어 모델로부터의 응답으로 사용됩니다 다음은 대화에서 언어 모델에 대한 시스템 프롬프트에 대해 우리가 얻은 피드백입니다: &lt;FEEDBACK&gt;언어 모델에 대한 구조화된 시스템 프롬프트를 개선하기 위해, 다음 피드백을 고려하십시오: 1. \계산 과정을 명확히 하십시오\\: - \현재 문제\: 프롬프트는 모델에게 계산 과정의 각 단계를 개괄하도록 명시적으로 지시하지 않습니다. - \\개선\: 모델이 각 수량과 합계를 명시적으로 진술하도록 요구하는 지시문을 추가하십시오. 예를 들어, '계산 과정의 각 단계를 명확히 개괄하여 각 수량과 합계를 진술하십시오.' 2. \중간 단계를 검증하십시오\\: - \현재 문제\: 프롬프트는 모델에게 각 중간 단계를 검증하도록 지시하지 않습니다. - \\개선\: 모델이 각 단계를 알려진 올바른 값과 대조하여 검증하도록 하는 지시문을 포함하십시오. 예를 들어, '정확성을 보장하기 위해 계산의 각 중간 단계를 검증하십시오.' &lt;/FEEDBACK&gt; &lt;/CONTEXT&gt; &lt;FEEDBACK&gt; 태그에 제공된 피드백을 사용하여 변수(언어 모델에 대한 시스템 프롬프트)를 개선하십시오. 개선된 변수를 다음 형식으로 보내십시오: &lt;IMPROVED_VARIABLE&gt;개선된 변수</IMPROVED_VARIABLE&gt; &lt;IMPROVED_VARIABLE&gt; 태그 사이에 개선된 변수만 보내고, 다른 것은 아무것도 보내지 마십시오.