채찍파티를 믿으면 안되는 이유

M

카찾사 실장

2025.06.20

추천 0

조회수 375

댓글 0

요즘 챗GPT를 검증된 검색엔진처럼 사용하는 사람들이 많은데 챗GPT가 알려주는 정보는 정확하지 않을뿐만 아니라

절대 '잘 모르겠다' 라는 대답을 하지 않습니다.

이는 '할루시네이션'이라는 증상인데 이는 챗GPT의 알고리즘 때문입니다.

챗GPT와 같은 언어모델은 실제 지식을 검증하여 답을 주는것이 아니라 엄청난 양의 텍스트를 바탕으로

단어 간의 통계적 패턴과 확률을 학습 합니다.

쉽게 말해 특정 단어 다음에 어떤 단어가 나올 가능성이 높은지를 파악하고 질문이나 지시에 대해 가장 그럴듯한 응답을 생성합니다.

실제 지식이나 추론 능력에 기반한 답변이 아닌 확률에 기반한 문장을 출력하는것이죠.

때문에 '잘 모르겠다' 라거나 '정확하지 않다' 의 개념이 없습니다.

그래서 최악의 경우는 본문과 같은 시츄에이션이 생길수도 있는겁니다.

댓글

유머게시판

공지 장도리 - 괴수개발당

카찾사 실장

장도리 - 괴수개발당

[6/22(일) 베스트모음] 이제는 사양산업이 된 PC방.jpg

카찾사 실장

영국인들 고온에 대한 내성 보면 신기할 정도임

카찾사 실장

영국인들 고온에 대한 내성 보면 신기할 정도임

송영길 대표 석방

카찾사 실장

데프콘 "이제 나혼자 산다 찍을때처럼은 못먹는다"

카찾사 실장

데프콘 "이제 나혼자 산다 찍을때처럼은 못먹는다"

입이 무거운 캡틴 아메리카.jpg

카찾사 실장

입이 무거운 캡틴 아메리카.jpg

남자어를 배워 보겠습니다

카찾사 실장

남자어를 배워 보겠습니다

타코야끼의 원조 에블레스키버.jpg

카찾사 실장

타코야끼의 원조 에블레스키버.jpg

망한 타투 살리 법

카찾사 실장

망한 타투 살리 법

한국 교도소에서 생활하던 전직 소말리아 해적들 근황

카찾사 실장

한국 교도소에서 생활하던 전직 소말리아 해적들 근황

친동생 데리고 예술작품 연성하는 오빠 with Galaxy

카찾사 실장

친동생 데리고 예술작품 연성하는 오빠 with Galaxy

고양이 벤치

카찾사 실장

고양이 벤치

“위대한 미국의 부활과 썩은 동아줄”

카찾사 실장

“위대한 미국의 부활과 썩은 동아줄”

민주당아 민생이 최우선이 아니라 검찰청 폐지가 더 최우선이다.

카찾사 실장

동탄에 어마무시한게 생기네요

카찾사 실장

동탄에 어마무시한게 생기네요

김용현 추가기소사건 재판부 기피신청

카찾사 실장

작성

< 273 274 275 276 277 >