프롬프트 엔지니어링

 

**Q: ❓단계별 프롬프팅이란 무엇이며, LLM 성능 향상에 어떻게 기여하나요?**
**A**: 단계별 프롬프팅은 LLM이 특정 작업을 수행하기 전에 일반적인 질문을 먼저 고려하도록 유도하고, 그 답변을 후속 프롬프트에 주입하는 기법입니다. 이는 LLM이 관련 배경 지식과 추론 과정을 활성화하여 더 정확하고 통찰력 있는 응답을 생성하도록 돕습니다.

**Q: 💡사고 연쇄(CoT) 프롬프팅은 무엇이며, LLM의 추론 능력을 어떻게 향상시키나요?**
**A**: 사고 연쇄(Chain of Thought, CoT) 프롬프팅은 LLM이 응답하기 전에 중간 추론 단계를 생성하도록 함으로써 추론 능력을 향상시키는 기법입니다. 이는 특히 복잡한 작업에서 LLM이 더 정확한 답변을 생성하는 데 도움을 주며, LLM의 추론 과정을 시각적으로 확인할 수 있어 해석 가능성도 높입니다.

**Q: 🎯자기 일관성(Self-consistency) 기법은 무엇이며, 어떻게 LLM 응답의 정확성을 높이나요?**
**A**: 자기 일관성은 LLM이 동일한 프롬프트에 대해 여러 번 다양한 추론 경로를 생성하고, 이들 중 가장 흔한 답변을 선택하여 LLM 응답의 정확성과 일관성을 향상시키는 기법입니다. 이는 단순한 '탐욕적 디코딩'의 한계를 극복하고 더 신뢰할 수 있는 결과를 제공합니다.

**Q: ⚙️LLM 출력 구성에서 '온도'는 어떤 역할을 하며, 어떻게 제어되나요?**
**A**: '온도(Temperature)'는 LLM이 토큰을 선택하는 무작위성 정도를 제어하는 설정입니다. 낮은 온도는 더 결정적이고 일관된 응답을 유도하는 반면, 높은 온도는 더 다양하고 창의적인 응답을 생성합니다. 이는 예측된 토큰 확률이 단일 출력 토큰을 선택하는 방식에 영향을 미칩니다.

**Q: 📊Top-K와 Top-P 샘플링은 무엇이며, LLM 출력의 다양성에 어떻게 영향을 미치나요?**
**A**: Top-K 샘플링은 모델의 예측 분포에서 가장 가능성 있는 상위 K개의 토큰을 선택합니다. Top-P(핵 샘플링) 샘플링은 누적 확률이 특정 값(P)을 초과하지 않는 상위 토큰을 선택합니다. 이 두 가지 설정은 모두 생성된 텍스트의 무작위성과 다양성을 제어하며, Top-K 값이 높거나 Top-P 값이 1에 가까울수록 출력은 더 다양해집니다.

**Q: 🧐프롬프트 엔지니어링 시 모델 선택 외에 고려해야 할 주요 사항은 무엇인가요?**
**A**: 프롬프트 엔지니어링 시 모델 선택 외에도 LLM의 다양한 구성 옵션(예: 출력 길이, 온도, Top-K, Top-P)을 작업에 최적으로 설정하는 것이 중요합니다. 이러한 설정들은 LLM의 출력을 제어하며, 효과적인 프롬프트는 특정 모델과 그 구성에 맞춰 최적화되어야 합니다.

**Q: ⏳더 많은 토큰을 생성하는 것이 LLM에 어떤 영향을 미치나요?**
**A**: 더 많은 토큰을 생성하면 LLM에서 더 많은 계산이 필요하게 되어 에너지 소비가 증가하고, 응답 시간이 느려지며, 비용이 더 많이 들 수 있습니다. 따라서 필요한 출력 길이에 맞춰 프롬프트를 설계하고 토큰 수를 제한하는 것이 효율적입니다.

**Q: 📧이메일 분류 시스템에서 자기 일관성이 어떻게 활용될 수 있나요?**
**A**: 이메일 분류 시스템에서 자기 일관성 기법은 LLM에 동일한 이메일 분류 프롬프트를 여러 번 제공하여 다양한 추론 경로를 생성하고, 이들 중 가장 흔한 답변을 선택함으로써 이메일의 중요도(IMPORTANT 또는 NOT IMPORTANT)를 더 정확하게 분류하는 데 활용될 수 있습니다. 특히 LLM을 속일 수 있는 친근한 톤이나 비꼼이 포함된 이메일에서 유용합니다.