[LLM] 프롬프트 엔지니어링

• 제로 샷 프롬프트
  • LLM 자체 능력 의존
• 퓨샷 프롬프트
  • 패턴을 포함하는 예시 제공 후 실제 질문
• 역할 부여 (Priming)
  • 페르소나 규정
    • 당신은 ~(역할) 입니다. ~(요청)
• 메타 프롬프트
  • 프롬프트를 만드는 프롬프트. 개선을 반복적으로 요청하는 프로세스
• 체인 프롬프트
  • 이전 대화를 기반으로 요약, 메타 프롬프트, 응답, 요약의 순서로 대화를 지속적 발전
• 주의 사항
  • 프롬프트가 1000개의 토큰을 초과하는 경우, 프롬프트 중간에 있는 정보를 손실할 수 있음. 그래서 컨텍스트 크기를 최소화하고 프롬프트의 시작과 끝 부분에 가장 중요한 정보와 지침을 배치해야 함.
• 대화 기억
  • 대화 메모리가 필요함.
  • 원시 형태로 저장하는 것이 가장 간단하지만
  • 대화가 길어질수록 토큰을 많이 사용하기 때문에, 느려지고/컨텍스트 스터핑 기억력 저하됨.
  • 이전 10개의 상호작용만 기억하는 경우도 있음
  • 대화를 요약해서 기억할 수 있음
• 참고
  • https://www.pinecone.io/learn/llm-ecosystem/