Gemini의 헛소리 (할루시네이션)

일단 Gemini가 무엇이냐?

Google에서 만든 대규모 언어모델이다. (챗지피티 비슷한 느낌)

출처: https://gemini.google.com/faq?hl=ko

근데 FAQ 읽다보니 이 유의사항이 눈에 띄고, 뭔가 가슴에 와닿는다..

사람이 대답하는 것처럼 들릴지라도 Gemini는 스스로 생각하거나 감정을 느끼지 않습니다. 

Gemini는 가족, 친구, 교사 또는 의사와 같이 삶에서 중요한 사람을 대신할 수 없습니다.

Gemini는 내 업무를 대신해 줄 수 없습니다.

Gemini는 내 인생의 중요한 결정을 내려 줄 수 없습니다.

---

그건 그거고,

Gemini의 헛소리

Gemini에게 질문을 했는데 틀렸길래 '땡 탈락'이라고 했더니..

고장난 듯이 흥미로운 표현이라면서 무슨 일본어도 섞어쓰고

예시는 영어로 헛소리 파티파티를 했다.

 

누가봐도 당황한게 보임.

 

예시가 하나하나 주옥같다.. 

그냥 모르면 모른다고하면 되잖아..

---

출처: https://gemini.google.com/faq?hl=ko

이렇게 Gemini가 헛소리하는 것을 할루시네이션이라고 한다.

없는 말을 제멋대로 지어서 만드는 것이다.

출처: https://gemini.google.com/faq?hl=ko

 

학생들이 검색할 때 Chat GPT, Ast up, wrtn 등등 다양한 대화형 인공지능을 활용하는 것을 많이 보는데,

할루시네이션이나 편향된 정보, 잘못된 정보를 잘 구분할 수 있기를 바라는 마음이다..!