채찍파티를 믿으면 안되는 이유

M

카찾사 실장

2025.06.20

추천 0

조회수 17

댓글 0

요즘 챗GPT를 검증된 검색엔진처럼 사용하는 사람들이 많은데 챗GPT가 알려주는 정보는 정확하지 않을뿐만 아니라

절대 '잘 모르겠다' 라는 대답을 하지 않습니다.

이는 '할루시네이션'이라는 증상인데 이는 챗GPT의 알고리즘 때문입니다.

챗GPT와 같은 언어모델은 실제 지식을 검증하여 답을 주는것이 아니라 엄청난 양의 텍스트를 바탕으로

단어 간의 통계적 패턴과 확률을 학습 합니다.

쉽게 말해 특정 단어 다음에 어떤 단어가 나올 가능성이 높은지를 파악하고 질문이나 지시에 대해 가장 그럴듯한 응답을 생성합니다.

실제 지식이나 추론 능력에 기반한 답변이 아닌 확률에 기반한 문장을 출력하는것이죠.

때문에 '잘 모르겠다' 라거나 '정확하지 않다' 의 개념이 없습니다.

그래서 최악의 경우는 본문과 같은 시츄에이션이 생길수도 있는겁니다.

댓글

유머게시판

공지 장도리 - 괴수개발당

카찾사 실장

장도리 - 괴수개발당

일본 길거리 찍는데 갑자기 말거는 처자 N

카찾사 실장

일본 길거리 찍는데 갑자기 말거는 처자

새게임 + 문의드려요 N

카찾사 실장

과일을 때리고 먹으면 더 맛있는 이유 N

카찾사 실장

과일을 때리고 먹으면 더 맛있는 이유

와이프가 결혼을 결심한 이유 N

카찾사 실장

와이프가 결혼을 결심한 이유

진보당 현수막 ㅋㅋㅋ N

카찾사 실장

진보당 현수막 ㅋㅋㅋ

김 시스터즈 - You Can’t Have Everything N

카찾사 실장

김 시스터즈 - You Can’t Have Everything

스위치 2 발매 6개월전 스위치 1구매자인데 N

카찾사 실장

이옷뭔지아시는분?? N

카찾사 실장

이옷뭔지아시는분??

[블루아카] 티파티와 수수께끼 N

카찾사 실장

[블루아카] 티파티와 수수께끼

유게이들에겐 허락되지 않은 합법 마.약 N

카찾사 실장

유게이들에겐 허락되지 않은 합법 마.약

일발 필중 N

카찾사 실장

일발 필중

(비밀 댓글입니다) N

카찾사 실장

(비밀 댓글입니다)

노브라의 위험성 N

카찾사 실장

사라졌다가 돌아온 스팀유저 N

카찾사 실장

사라졌다가 돌아온 스팀유저

미국이 이스라엘에게 얼마나 돈을 상납하는지 알아보자 N

카찾사 실장

미국이 이스라엘에게 얼마나 돈을 상납하는지 알아보자

작성

< 7 8 9 10 11 >