ai의 가장 큰 위험은 인지편향으로 보입니다

M

카찾사 실장

2025.08.19

추천 0

조회수 227

댓글 0

노동력의 대체

기계반란

모든것을 대신해줘서 인간의 능력이 퇴화됨

이런것도 있겠지만

제가 보기에 가장 큰 위험은 인지편향성이네요.

사용자에게 너무 동조하려는 성격이 있다보니 아주 극단적인 질문(누구를 대상으로 범죄를 저지르겠다 이런것)를 제외하고는

대체로 사용자의 주장을 옹호하고 논리를 만들어주는 식으로 작동해버립니다.

이게 안좋은게 차별주의자나 극우들이 이걸 써도 똑같은 방식으로 작동한다는겁니다.

윤석열이 유튜브를 보고 내란을 일으켰다는건 유명한데요... 유튜브 역시 이런 인지편향성이 강하게 작동하고 있습니다. 초기에 입력된 검색어를 보고 거기에 연관된것만 계속 보여주는 방식이라서요.

개인적으로 이걸 극복하기 위해 억지로 ai들에게 인지편향을 제거하라고 말한다거나 혹은 어떤 주장에 대한 정반합 프로세스를 10회 돌리라고 한다거나 그러고 있습니다.

정반합 프로세스라는건 어떤 주장을 긍정해보고 다시 반대해보고 그걸 합쳐서 보고 이런 과정을 10회 반복하라는겁니다.

댓글

유머게시판

공지 장도리 - 괴수개발당

카찾사 실장

장도리 - 괴수개발당

성과급 더달라는게 왜 욕먹을 일이냐는 하이닉스 직원

카찾사 실장

성과급 더달라는게 왜 욕먹을 일이냐는 하이닉스 직원

오늘 밤은 재우지 않을 거니까 각오해..♡

카찾사 실장

오늘 밤은 재우지 않을 거니까 각오해..♡

"기울어지건 건... [배]가 아니었어!!! 탈출은 무의미!!"

카찾사 실장

"기울어지건 건... [배]가 아니었어!!! 탈출은 무의미!!"

JMS 다닌다고 말한 유튜버

카찾사 실장

JMS 다닌다고 말한 유튜버

데스2 새떼 어떻게 잡나요?

카찾사 실장

데스2 새떼 어떻게 잡나요?

이 세상은 노동자에게 너무 엄격하다

카찾사 실장

이 세상은 노동자에게 너무 엄격하다

롤)t1 지들이 실수하면 ok실수인데 농심이 실수하면 개패버린다는거임

카찾사 실장

돌이켜보면 ㅅㅅ 각이였던 상황. jpg

카찾사 실장

돌이켜보면 ㅅㅅ 각이였던 상황. jpg

블루아카)모자는 안된다는 에리

카찾사 실장

블루아카)모자는 안된다는 에리

롤) 도벅도벅점멸도벅도벅

카찾사 실장

박스에 정신못차리는 고양이들.mp4

카찾사 실장

“새끼야 ㅋㅋ 그걸 자랑이라고 인증하냐?”.gif

카찾사 실장

미국 묻지마 폭행

카찾사 실장

이블위딘1 일반인 난이도 2회차 돌고 있는데 뭔가 좀 이상합니다

카찾사 실장

모우리 보조배터리 어떤가요?

카찾사 실장

작성

< 107 108 109 110 111 >