채찍파티를 믿으면 안되는 이유

M

카찾사 실장

2025.06.20

추천 0

조회수 759

댓글 0

요즘 챗GPT를 검증된 검색엔진처럼 사용하는 사람들이 많은데 챗GPT가 알려주는 정보는 정확하지 않을뿐만 아니라

절대 '잘 모르겠다' 라는 대답을 하지 않습니다.

이는 '할루시네이션'이라는 증상인데 이는 챗GPT의 알고리즘 때문입니다.

챗GPT와 같은 언어모델은 실제 지식을 검증하여 답을 주는것이 아니라 엄청난 양의 텍스트를 바탕으로

단어 간의 통계적 패턴과 확률을 학습 합니다.

쉽게 말해 특정 단어 다음에 어떤 단어가 나올 가능성이 높은지를 파악하고 질문이나 지시에 대해 가장 그럴듯한 응답을 생성합니다.

실제 지식이나 추론 능력에 기반한 답변이 아닌 확률에 기반한 문장을 출력하는것이죠.

때문에 '잘 모르겠다' 라거나 '정확하지 않다' 의 개념이 없습니다.

그래서 최악의 경우는 본문과 같은 시츄에이션이 생길수도 있는겁니다.

댓글

유머게시판

공지 장도리 - 괴수개발당

카찾사 실장

장도리 - 괴수개발당

넷플 글로벌 1위라는 케이팝 데몬 헌터스 디렉터가 들려주는 재밌는 제작 후일담

카찾사 실장

넷플 글로벌 1위라는 케이팝 데몬 헌터스 디렉터가 들려주는 재밌는 제작 후일담

정육업 하는 사람들도 돈 주고 버린다는 부위

카찾사 실장

정육업 하는 사람들도 돈 주고 버린다는 부위

후방)요즘 AI 기술력

카찾사 실장

후방)요즘 AI 기술력

나 오늘 진짜 이상한 날이었어...

카찾사 실장

나 오늘 진짜 이상한 날이었어...

이낙연.손학규 근황!

카찾사 실장

이낙연.손학규 근황!

아산 배방읍 루머

카찾사 실장

아산 배방읍 루머

PC는 지도를 어찌 보나요?

카찾사 실장

혼란 속성 질문 드립니다.

카찾사 실장

카찾사 실장

빅토리 드래곤이 정발되지 않는 이유?

카찾사 실장

판4 영화 망하면 다시 유행할 짤

카찾사 실장

판4 영화 망하면 다시 유행할 짤

애기때 귀여운 생물.png

카찾사 실장

애기때 귀여운 생물.png

출석일이랑 레벨로 형님 아우 따질거면 ㅋㅋㅋ

카찾사 실장

출석일이랑 레벨로 형님 아우 따질거면 ㅋㅋㅋ

나는 딱창이다

카찾사 실장

나는 딱창이다

[약후] 그렸던 태닝 귀쟁이

카찾사 실장

[약후] 그렸던 태닝 귀쟁이

작성

< 601 602 603 604 605 >