채찍파티를 믿으면 안되는 이유

M

카찾사 실장

2025.06.20

추천 0

조회수 182

댓글 0

요즘 챗GPT를 검증된 검색엔진처럼 사용하는 사람들이 많은데 챗GPT가 알려주는 정보는 정확하지 않을뿐만 아니라

절대 '잘 모르겠다' 라는 대답을 하지 않습니다.

이는 '할루시네이션'이라는 증상인데 이는 챗GPT의 알고리즘 때문입니다.

챗GPT와 같은 언어모델은 실제 지식을 검증하여 답을 주는것이 아니라 엄청난 양의 텍스트를 바탕으로

단어 간의 통계적 패턴과 확률을 학습 합니다.

쉽게 말해 특정 단어 다음에 어떤 단어가 나올 가능성이 높은지를 파악하고 질문이나 지시에 대해 가장 그럴듯한 응답을 생성합니다.

실제 지식이나 추론 능력에 기반한 답변이 아닌 확률에 기반한 문장을 출력하는것이죠.

때문에 '잘 모르겠다' 라거나 '정확하지 않다' 의 개념이 없습니다.

그래서 최악의 경우는 본문과 같은 시츄에이션이 생길수도 있는겁니다.

댓글

유머게시판

공지 장도리 - 괴수개발당

카찾사 실장

장도리 - 괴수개발당

강연금 작가의 아버지가 최신기기 사준다 해도 거부한 이유

카찾사 실장

강연금 작가의 아버지가 최신기기 사준다 해도 거부한 이유

원피스 레일리가 패기를 맛보기만 가르친 이유

카찾사 실장

원피스 레일리가 패기를 맛보기만 가르친 이유

카찾사 실장

세가 근황

이란 국영방송 "역내 모든 미군과 美시민, 이제 합법적 공격대상"

카찾사 실장

이란 국영방송 "역내 모든 미군과 美시민, 이제 합법적 공격대상"

미국 민주당, 미군의 이란 폭격 사실 보고받지 못해

카찾사 실장

미국 민주당, 미군의 이란 폭격 사실 보고받지 못해

우리 오빠 내 동기겸 룸메랑 결혼했는데..

카찾사 실장

우리 오빠 내 동기겸 룸메랑 결혼했는데..

말딸) 공장장이 말딸 야짤 그렸네

카찾사 실장

말딸) 공장장이 말딸 야짤 그렸네

라떼아트 실패 대참사

카찾사 실장

라떼아트 실패 대참사

미국, 이란 폭격 전 이스라엘에 관련 정보 미리 알려줬다

카찾사 실장

미국, 이란 폭격 전 이스라엘에 관련 정보 미리 알려줬다

브더2)이표정이 야한짓을 하는거 같나요?

카찾사 실장

브더2)이표정이 야한짓을 하는거 같나요?

공인중개사의 하루는 오늘도 평화롭다.

카찾사 실장

도망치지 마라! 이건 운명이다! 나를 받아들여라!!!하하하!!!

카찾사 실장

홈,엔드 키 스크롤?

카찾사 실장

강력한공격 픽토스 무슨말인지

카찾사 실장

DLC 추적자 퀘스트 버그 먹은 거 같네요

카찾사 실장

작성

< 110 111 112 113 114 >