ai의 가장 큰 위험은 인지편향으로 보입니다

M

카찾사 실장

2025.08.19

추천 0

조회수 278

댓글 0

노동력의 대체

기계반란

모든것을 대신해줘서 인간의 능력이 퇴화됨

이런것도 있겠지만

제가 보기에 가장 큰 위험은 인지편향성이네요.

사용자에게 너무 동조하려는 성격이 있다보니 아주 극단적인 질문(누구를 대상으로 범죄를 저지르겠다 이런것)를 제외하고는

대체로 사용자의 주장을 옹호하고 논리를 만들어주는 식으로 작동해버립니다.

이게 안좋은게 차별주의자나 극우들이 이걸 써도 똑같은 방식으로 작동한다는겁니다.

윤석열이 유튜브를 보고 내란을 일으켰다는건 유명한데요... 유튜브 역시 이런 인지편향성이 강하게 작동하고 있습니다. 초기에 입력된 검색어를 보고 거기에 연관된것만 계속 보여주는 방식이라서요.

개인적으로 이걸 극복하기 위해 억지로 ai들에게 인지편향을 제거하라고 말한다거나 혹은 어떤 주장에 대한 정반합 프로세스를 10회 돌리라고 한다거나 그러고 있습니다.

정반합 프로세스라는건 어떤 주장을 긍정해보고 다시 반대해보고 그걸 합쳐서 보고 이런 과정을 10회 반복하라는겁니다.

댓글

유머게시판

공지 장도리 - 괴수개발당

카찾사 실장

장도리 - 괴수개발당

영조와 사도세자 관계에서 영조가 유독 욕먹는 이유

카찾사 실장

영조와 사도세자 관계에서 영조가 유독 욕먹는 이유

버튜버)스압)바니걸을 입은 홀로멤

카찾사 실장

버튜버)스압)바니걸을 입은 홀로멤

ㅇㅇㄱ) 이 모든 일의 이유가 지금도 어처구니 없음

카찾사 실장

ㅇㅇㄱ) 이 모든 일의 이유가 지금도 어처구니 없음

트릭컬,인방)라디유:나만 쓰레기야? 나만 쓰레기냐고

카찾사 실장

트릭컬,인방)라디유:나만 쓰레기야? 나만 쓰레기냐고

의외로 겁나 비싼 과일

카찾사 실장

의외로 겁나 비싼 과일

트릭컬) 마요와 바바 추재업.grim

카찾사 실장

트릭컬) 마요와 바바 추재업.grim

로또 3등 5개 당첨된 사람

카찾사 실장

로또 3등 5개 당첨된 사람

구관인형 제작 후기

카찾사 실장

구관인형 제작 후기

나라에서 사교육 막으려 노력하는 이유

카찾사 실장

나라에서 사교육 막으려 노력하는 이유

ㅇㅇㄱ)ㅇㅅㄷ이 급성장한 이유 = 노래를 잘 불러서

카찾사 실장

ㅇㅇㄱ)ㅇㅅㄷ이 급성장한 이유 = 노래를 잘 불러서

남중생 성희롱 하는 여초사이트.jpg

카찾사 실장

남중생 성희롱 하는 여초사이트.jpg

트럼프의 의도를 이해하는 가장 좋은 예시

카찾사 실장

트럼프의 의도를 이해하는 가장 좋은 예시

영조의 사도세자 뒤주건은 우연히 잘 풀린 셈 아닌가??

카찾사 실장

발명가 추천작하는건 어느시점에서하면좋나요?

카찾사 실장

옛날에 봤던 어떤 만화를 찾고있습니다.

카찾사 실장

작성

< 148 149 150 151 152 >