채찍파티를 믿으면 안되는 이유

M

카찾사 실장

2025.06.20

추천 0

조회수 410

댓글 0

요즘 챗GPT를 검증된 검색엔진처럼 사용하는 사람들이 많은데 챗GPT가 알려주는 정보는 정확하지 않을뿐만 아니라

절대 '잘 모르겠다' 라는 대답을 하지 않습니다.

이는 '할루시네이션'이라는 증상인데 이는 챗GPT의 알고리즘 때문입니다.

챗GPT와 같은 언어모델은 실제 지식을 검증하여 답을 주는것이 아니라 엄청난 양의 텍스트를 바탕으로

단어 간의 통계적 패턴과 확률을 학습 합니다.

쉽게 말해 특정 단어 다음에 어떤 단어가 나올 가능성이 높은지를 파악하고 질문이나 지시에 대해 가장 그럴듯한 응답을 생성합니다.

실제 지식이나 추론 능력에 기반한 답변이 아닌 확률에 기반한 문장을 출력하는것이죠.

때문에 '잘 모르겠다' 라거나 '정확하지 않다' 의 개념이 없습니다.

그래서 최악의 경우는 본문과 같은 시츄에이션이 생길수도 있는겁니다.

댓글

유머게시판

공지 장도리 - 괴수개발당

카찾사 실장

장도리 - 괴수개발당

지하에 숨겨놓은 포르노

카찾사 실장

지하에 숨겨놓은 포르노

초등학교 교사의 시선과 일부 학부모의 차이

카찾사 실장

초등학교 교사의 시선과 일부 학부모의 차이

내가 엄청 힘들었던 시기에.jpg

카찾사 실장

내가 엄청 힘들었던 시기에.jpg

소녀상을 창녀라고 해도 안전한 나라

카찾사 실장

소녀상을 창녀라고 해도 안전한 나라

민주당만 청렴결백을 해야하는건가?

카찾사 실장

내란성괴 아프다고 징징거리며 3차소환 불발

카찾사 실장

내란성괴 아프다고 징징거리며 3차소환 불발

그들의 의료지원

카찾사 실장

그들의 의료지원

속이 뻥 뚤리는 대통령 연금

카찾사 실장

속이 뻥 뚤리는 대통령 연금

'평화의 소녀상' 훼손범도 리박스쿨 강사

카찾사 실장

'평화의 소녀상' 훼손범도 리박스쿨 강사

오 둘이 사진 잘 나왔다

카찾사 실장

오 둘이 사진 잘 나왔다

스위치2로 해보신분? 자막크기

카찾사 실장

스위치2로 해보신분? 자막크기

호불호 갈리는 기립근

카찾사 실장

호불호 갈리는 기립근

근무하면서 있었던 귀여운 일 .manwha

카찾사 실장

근무하면서 있었던 귀여운 일 .manwha

1을 안해보고 해도 문제 없나요 ?

카찾사 실장

피시용과 플5용은 글픽차이 외에 전혀 없나요?

카찾사 실장

작성

< 289 290 291 292 293 >