채찍파티를 믿으면 안되는 이유

M

카찾사 실장

2025.06.20

추천 0

조회수 607

댓글 0

요즘 챗GPT를 검증된 검색엔진처럼 사용하는 사람들이 많은데 챗GPT가 알려주는 정보는 정확하지 않을뿐만 아니라

절대 '잘 모르겠다' 라는 대답을 하지 않습니다.

이는 '할루시네이션'이라는 증상인데 이는 챗GPT의 알고리즘 때문입니다.

챗GPT와 같은 언어모델은 실제 지식을 검증하여 답을 주는것이 아니라 엄청난 양의 텍스트를 바탕으로

단어 간의 통계적 패턴과 확률을 학습 합니다.

쉽게 말해 특정 단어 다음에 어떤 단어가 나올 가능성이 높은지를 파악하고 질문이나 지시에 대해 가장 그럴듯한 응답을 생성합니다.

실제 지식이나 추론 능력에 기반한 답변이 아닌 확률에 기반한 문장을 출력하는것이죠.

때문에 '잘 모르겠다' 라거나 '정확하지 않다' 의 개념이 없습니다.

그래서 최악의 경우는 본문과 같은 시츄에이션이 생길수도 있는겁니다.

댓글

유머게시판

공지 장도리 - 괴수개발당

카찾사 실장

장도리 - 괴수개발당

블루아카)슈로 그려 봄

카찾사 실장

블루아카)슈로 그려 봄

우리 아이큐를 합치면...

카찾사 실장

우리 아이큐를 합치면...

마블 세계관의 뮤턴트 혐오 수준

카찾사 실장

마블 세계관의 뮤턴트 혐오 수준

페이트) 내가 이 시리즈 재밌게 보고도 팬이 못된 이유

카찾사 실장

페이트) 내가 이 시리즈 재밌게 보고도 팬이 못된 이유

현재 쌍욕먹고 있다는 운동 영상

카찾사 실장

현재 쌍욕먹고 있다는 운동 영상

추탭갈) 마비) ㅇㅇㄱ) 하 탈왁했으니 룩도 바꿔야하네

카찾사 실장

추탭갈) 마비) ㅇㅇㄱ) 하 탈왁했으니 룩도 바꿔야하네

카찾사 실장

제 아내임

[페이트] 사실 사쿠라야 말로 페이트 시리즈의 진정한 강자임.

카찾사 실장

[페이트] 사실 사쿠라야 말로 페이트 시리즈의 진정한 강자임.

막 화내기만 하는건 아닌 리뷰어

카찾사 실장

막 화내기만 하는건 아닌 리뷰어

골든 리트리버도 인내심의 한계가 있다

카찾사 실장

컴퓨터 모니터 디스플레이 관련 질문 드립니다

카찾사 실장

pan 2차인증말인데요

카찾사 실장

듀얼센스 질문 있습니다(X버튼+PS버튼 키눌림)

카찾사 실장

'진짜..부패 천국이었네' 간병로봇 열어봤다가 '경악'

카찾사 실장

'진짜..부패 천국이었네' 간병로봇 열어봤다가 '경악'

할머니가 원수도 안아주라고 하셨어

카찾사 실장

할머니가 원수도 안아주라고 하셨어

작성

< 453 454 455 456 457 >