ai의 가장 큰 위험은 인지편향으로 보입니다

M

카찾사 실장

2025.08.19

추천 0

조회수 295

댓글 0

노동력의 대체

기계반란

모든것을 대신해줘서 인간의 능력이 퇴화됨

이런것도 있겠지만

제가 보기에 가장 큰 위험은 인지편향성이네요.

사용자에게 너무 동조하려는 성격이 있다보니 아주 극단적인 질문(누구를 대상으로 범죄를 저지르겠다 이런것)를 제외하고는

대체로 사용자의 주장을 옹호하고 논리를 만들어주는 식으로 작동해버립니다.

이게 안좋은게 차별주의자나 극우들이 이걸 써도 똑같은 방식으로 작동한다는겁니다.

윤석열이 유튜브를 보고 내란을 일으켰다는건 유명한데요... 유튜브 역시 이런 인지편향성이 강하게 작동하고 있습니다. 초기에 입력된 검색어를 보고 거기에 연관된것만 계속 보여주는 방식이라서요.

개인적으로 이걸 극복하기 위해 억지로 ai들에게 인지편향을 제거하라고 말한다거나 혹은 어떤 주장에 대한 정반합 프로세스를 10회 돌리라고 한다거나 그러고 있습니다.

정반합 프로세스라는건 어떤 주장을 긍정해보고 다시 반대해보고 그걸 합쳐서 보고 이런 과정을 10회 반복하라는겁니다.

댓글

유머게시판

공지 장도리 - 괴수개발당

카찾사 실장

장도리 - 괴수개발당

정의당 이것들 진짜 완전 장동혁임. 눈 돌아감. 이것들.

카찾사 실장

우리나라 원전 매국은 이번이 처음이 아니었다.

카찾사 실장

의외로 대한민국에서 대다수가 업적을 잘못 알고 있는 과학자 우장춘

카찾사 실장

의외로 대한민국에서 대다수가 업적을 잘못 알고 있는 과학자 우장춘

해외에서 호평받은 더 테러 라이브 인도 리메이크.jpg

카찾사 실장

해외에서 호평받은 더 테러 라이브 인도 리메이크.jpg

의외로 건강한 사람에게도 위험한 식단.jpg

카찾사 실장

의외로 건강한 사람에게도 위험한 식단.jpg

이즈나랑 둘이서 라멘집 왔다~.jpg

카찾사 실장

이즈나랑 둘이서 라멘집 왔다~.jpg

기동전사 악역영애.manhwa

카찾사 실장

기동전사 악역영애.manhwa

에이펙스 이새끼들 유행 존나 민감하구나

카찾사 실장

에이펙스 이새끼들 유행 존나 민감하구나

[블루아카스포] 카이나 아키라같은 범죄자를 쉬이 용서해선 안된다

카찾사 실장

[블루아카스포] 카이나 아키라같은 범죄자를 쉬이 용서해선 안된다

트릭컬/스포)긁은거같지만 사실 아마도 긁은 애는 없고 긁힌애만 있는

카찾사 실장

트릭컬/스포)긁은거같지만 사실 아마도 긁은 애는 없고 긁힌애만 있는

호불호 갈리는 블랙핑크 리사 무대.GIF

카찾사 실장

역전재판) 폭탄선언

카찾사 실장

역전재판) 폭탄선언

"성검을 뽑을 때 전대용사의 환영이 나를 지켜보겠다고 했는데..."

카찾사 실장

"성검을 뽑을 때 전대용사의 환영이 나를 지켜보겠다고 했는데..."

마비m) 바니걸몰리 그렸어요

카찾사 실장

마비m) 바니걸몰리 그렸어요

트릭컬)스포)내가 한 달 전부터 기다린 장면

카찾사 실장

트릭컬)스포)내가 한 달 전부터 기다린 장면

작성

< 153 154 155 156 157 >