ai의 가장 큰 위험은 인지편향으로 보입니다
M
카찾사 실장
2025.08.19
추천 0
조회수 229
댓글 0
노동력의 대체
기계반란
모든것을 대신해줘서 인간의 능력이 퇴화됨
이런것도 있겠지만
제가 보기에 가장 큰 위험은 인지편향성이네요.
사용자에게 너무 동조하려는 성격이 있다보니 아주 극단적인 질문(누구를 대상으로 범죄를 저지르겠다 이런것)를 제외하고는
대체로 사용자의 주장을 옹호하고 논리를 만들어주는 식으로 작동해버립니다.
이게 안좋은게 차별주의자나 극우들이 이걸 써도 똑같은 방식으로 작동한다는겁니다.
윤석열이 유튜브를 보고 내란을 일으켰다는건 유명한데요... 유튜브 역시 이런 인지편향성이 강하게 작동하고 있습니다. 초기에 입력된 검색어를 보고 거기에 연관된것만 계속 보여주는 방식이라서요.
개인적으로 이걸 극복하기 위해 억지로 ai들에게 인지편향을 제거하라고 말한다거나 혹은 어떤 주장에 대한 정반합 프로세스를 10회 돌리라고 한다거나 그러고 있습니다.
정반합 프로세스라는건 어떤 주장을 긍정해보고 다시 반대해보고 그걸 합쳐서 보고 이런 과정을 10회 반복하라는겁니다.
유머게시판
공지
장도리 - 괴수개발당
M
카찾사 실장
조회수
5859
추천 0
2025.04.08
한국인을 낳고 싶은 멕시코녀
M
카찾사 실장
조회수
185
추천 0
2025.08.22
절이 싫으면
M
카찾사 실장
조회수
131
추천 0
2025.08.22
연애장부있는 회사
M
카찾사 실장
조회수
128
추천 0
2025.08.22
천한놈 ... 드뎌 새내기 탈출 ~~
M
카찾사 실장
조회수
134
추천 0
2025.08.22
김건희 특검, '양평고속도로 의혹' 압수수색 착수
M
카찾사 실장
조회수
126
추천 0
2025.08.22
지금의 국중박이 만들어진 의외의 계기.jpg
M
카찾사 실장
조회수
139
추천 0
2025.08.22
최민희 국회의원을 닮고 싶음
M
카찾사 실장
조회수
150
추천 0
2025.08.22
정의당 이것들은 도대체 정당 운영 왜 하냐?
M
카찾사 실장
조회수
140
추천 0
2025.08.22
흉기를 입수했는데 용의자의 지문이 묻은 손잡이를 분실할 수 있음?
M
카찾사 실장
조회수
136
추천 0
2025.08.22
못생기면 참가 못하는 외모승인파티
M
카찾사 실장
조회수
137
추천 0
2025.08.22
현재 사육당하는걸로 유명해진 여행유튜버
M
카찾사 실장
조회수
134
추천 0
2025.08.22
은근히 멤버 교체가 많았던 혼성그룹.jpg
M
카찾사 실장
조회수
128
추천 0
2025.08.22
펌) 와이프의 부산운전
M
카찾사 실장
조회수
128
추천 0
2025.08.22
일본여자들이 한국 남자에게 감동하는 포인트
M
카찾사 실장
조회수
117
추천 0
2025.08.22
아카데미과학)드디어 미쳐버린 아카데미과학
M
카찾사 실장
조회수
126
추천 0
2025.08.22
댓글