About Prompt Engineering : 5.고급 프롬프트
지난번, 짧게 프롬프트의 방식에 대해 다뤘던걸 기억 하시나요? 이번에는 쪼오금 더 깊게 다뤄보려고 합니다.
제로샷 프롬프트
GPT-3와 같은 오늘날 대규모 LLM은 지침을 따르도록 조정되고 대량의 데이터에 대해 교육을 받기 때문에 일부 작업을 “제로샷”으로 수행할 수 있습니다.
프롬프트:
텍스트를 중립, 부정 또는 긍정으로 분류합니다.
텍스트 : 이번 여름휴가 너무 기대돼
감정:
출력:
긍정
지난번에 말씀 드렸다시피 “감정:” 는 질문 답변에 사용하는 명시적인 프롬프트 형식입니다. 여기서 이 정보를 사용하여 모델에게 추가로 예상되는 답이 있음을 알릴 수 있습니다.
위의 프롬프트에서 우리는 모델에 분류와 함께 텍스트의 예를 제공하지 않았습니다. LLM은 이미 “감정”을 이해하고 있습니다. 추가적인 학습 없이 데이터에 대해 예측을 할 수 있는 것, 이것이 바로 제로샷 기능입니다.
제로샷이 작동하지 않을 때는 원샷,퓨샷 프롬프트로 이어지는 프롬프트에 예제를 제공하는 것이 좋습니다.
원샷 프롬프트
원샷 프롬프트는 단일 예제 또는 템플릿과 같은 제한된 양의 입력 데이터로 자연어 텍스트를 생성하는 데 사용됩니다.
원샷 프롬프트를 대화 관리 및 컨텍스트 모델링과 같은 다른 자연어 처리 기술과 결합하여 보다 정교하고 효과적인 텍스트 생성 시스템을 만들 수 있습니다.
GPT에게서 우리 아빠의 향기가 난다.
프롬프트 엔지니어링의 맥락에서 원샷 학습을 사용하여 단일 예제 또는 템플릿과 같은 제한된 양의 입력 데이터로 자연어 텍스트를 생성할 수 있었습니다.
퓨 샷 프롬프트
퓨샷 프롬프트는 이전에 본 객체의 새로운 예에 신속하게 적응하기 위해 모델에 일반적으로 2~5개의 예제가 제공되는 기술입니다. GPT를 비롯한 대규모 언어 모델은 제로샷에 있어 인상적인 성능을 보여줍니다. 하지만 더 어려운 작업에 적용할때는 여전히 부족함을 보이는데요, 퓨샷 프롬프팅은 이러한 부족함을 컨텍스트 내, 예시를 제공함으로써 문제를 해결하는데 도움이 되도록하는 방식입니다.
퓨샷 학습은 제한된 양의 입력 데이터로 자연어 텍스트를 만들기 위해 프롬프트 엔지니어링의 맥락에서 사용될 수 있습니다. 필요한 데이터는 적지만 이 기술을 사용하면 보다 다양하고 적응형 텍스트 생성 모델을 만들 수 있습니다.
퓨샷 프롬프트와 같은 고급 기술을 사용하여 인간 사용자에게 더 유연하고 적응 가능하며 매력적인 자연어 생성 모델을 만들 수 있습니다.
퓨 샷 프롬프트의 한계
퓨 샷 프롬프트는 많은 작업에 적합하지만 더 복잡한 추론 작업을 처리할 때는 여전히 완벽한 기술이 아닙니다. 지피티에 조금 더 복잡한 추론 작업을 시켜보았습니다.
올바른 답이 출력되지 않았습니다.
올바른 답을 출력하기 위해 몇가지 예시를 추가해보겠습니다.
예제를 4개나 추가하였지만 효과가 없었습니다.
이런 추론이 필요한 유형에 대해서는 예제를 추가 하는 것이 원하는 답을 얻기에 적합한 방법이 아닌 것을 알 수 있습니다. 전체적으로 예제를 제공하는 것이 일부 작업들을 해결하는데 유용하지만, 제로샷, 퓨 샷 프롬프트로도 충분하지 않을 때가 있습니다. 모델이 학습한 내용만으로는 원할한 작업을 수행하기 힘들다는 것이죠. 이런 문제를 해결하기 위해 생각의 사슬(CoT) 프롬프트가 대중화 되었는데요, 다음 섹션에서는 이와 같은 고급 프롬프팅 기법을 사용하여 실험해보도록 하겠습니다.
