이번 컨텐츠는 프롬프트를 비활성화할 수 있는 몇 가지 간단한 기법에 대해 알려드리겠습니다!
#예시 Debiasing
→ 프롬프트 내에서 예시들의 분포와 순서에 따라 LLM(언어모델)의 결과가 편향될 수 있습니다!
#분포
프롬프트 내에서 예시들의 분포를 언급할 때, 서로 다른 클래스의 예시가 몇 개 있는지를 말합니다.
예를 들어, 트윗에서 이진 감성 분석(긍정 또는 부정)을 수행하고 긍정적인 트윗 3개와 부정적인 트윗 1개를 예시로 제공한다면, 분포는 3:1입니다.
분포가 긍정적인 트윗으로 치우쳐져 있기 때문에 모델은 긍정적인 트윗을 예측하는 데 편향될 수 있는 것이죠!
Q: Tweet: "What a beautiful day!" A: positive
Q: Tweet: "I love pockets on jeans" A: positive
Q: Tweet: "I love hotpockets" A: positive
Q: Tweet: "I hate this class" A: negative