목록2025/02/08 (1)

쉽게 떠먹는 AI 한 스푼

챗GPT가 거짓말 못하도록 세팅하는 마법의 프롬프트

1. 챗GPT는 왜 거짓 정보를 제공할까요? 많은 분들이 챗GPT를 사용하면서 "이 답변이 정말 정확한 걸까?"라는 고민을 해보셨을 것입니다. AI는 방대한 데이터를 학습해 답변을 생성하지만, 때로는 부정확한 정보나 추측성 내용을 마치 사실처럼 제공하기도 합니다.  그렇다면, AI는 왜 거짓 정보를 생성하는 걸까요? 1)확률적 언어 모델의 특성 챗GPT는 데이터를 기반으로 가장 적절한 단어와 문장을 예측하여 생성하는 방식으로 작동합니다.  하지만 모든 정보가 데이터에 포함된 것은 아니므로, 확률적으로 가장 적절해 보이는 답변을 만들어내는 과정에서 오류가 발생할 수 있습니다.  2)출처 검증 과정의 부재  AI는 정보를 가져오는 것이 아니라 새로운 문장을 생성하는 것입니다.  따라서 사실 확인 없이 문장을..
카테고리 없음 2025. 2. 8. 23:35
이전 Prev 1 Next 다음