이번 챕터에서는 완성 작업을 더 신뢰할 수 있도록하는 방법과 출력물이 신뢰할 수 있도록 확인을 구현하는 방법을 다룹니다!

이전에 다룬 기술 대부분은 자기 일관성을 향상시키고 결과적으로 신뢰성을 향상시키는 데 관여했지만, 기본 프롬프팅 전략 이상으로 신뢰성을 향상시키기 위해 사용할 수 있는 기술이 여러 가지 존재합니다.

LLM은 철자가 틀린, 문장 구성이 잘못된 또는 적극적으로 오도하는 프롬프트에 대해 예상보다 해석하는 능력이 높다는 것이 밝혀졌지만 여전히 환각, CoT 방법에서 잘못된 설명 및 대다수 레이블 편향, 최근성 편향 및 공통 토큰 편향을 포함한 여러 가지 편향을 보이고 있는게 현실이죠 🥲

이러한 문제들에 대한 일반적인 해결책은 사전 편향 제거를 위한 교정과 완성 결과를 점수화하는 확인기, 그리고 완성 작업에서 다양성을 촉진해보도록 하겠습니다!