ai의 가장 큰 위험은 인지편향으로 보입니다
M
카찾사 실장
2025.08.19
추천 0
조회수 282
댓글 0
노동력의 대체
기계반란
모든것을 대신해줘서 인간의 능력이 퇴화됨
이런것도 있겠지만
제가 보기에 가장 큰 위험은 인지편향성이네요.
사용자에게 너무 동조하려는 성격이 있다보니 아주 극단적인 질문(누구를 대상으로 범죄를 저지르겠다 이런것)를 제외하고는
대체로 사용자의 주장을 옹호하고 논리를 만들어주는 식으로 작동해버립니다.
이게 안좋은게 차별주의자나 극우들이 이걸 써도 똑같은 방식으로 작동한다는겁니다.
윤석열이 유튜브를 보고 내란을 일으켰다는건 유명한데요... 유튜브 역시 이런 인지편향성이 강하게 작동하고 있습니다. 초기에 입력된 검색어를 보고 거기에 연관된것만 계속 보여주는 방식이라서요.
개인적으로 이걸 극복하기 위해 억지로 ai들에게 인지편향을 제거하라고 말한다거나 혹은 어떤 주장에 대한 정반합 프로세스를 10회 돌리라고 한다거나 그러고 있습니다.
정반합 프로세스라는건 어떤 주장을 긍정해보고 다시 반대해보고 그걸 합쳐서 보고 이런 과정을 10회 반복하라는겁니다.
유머게시판
공지
장도리 - 괴수개발당
M
카찾사 실장
조회수
6002
추천 0
2025.04.08
똥묻은 정의당이 겨도 안 묻은 조국에게 난리
M
카찾사 실장
조회수
175
추천 0
2025.08.21
이름이 특이해서 고민이라는 여학생
M
카찾사 실장
조회수
176
추천 0
2025.08.21
법인등기부등본제작Ø수능대리시험♂톡상담hop67텔레gkp44민증제작#통장위조#남쯩위조#서류위조#국가기술자격증대리시험#등본제작#근로소득원천징수영수증제작
1
서류전문업체
조회수
181
추천 0
2025.08.21
ㅋ교회, 학교, 기업체 모두 동원하라고 새키들아
M
카찾사 실장
조회수
174
추천 0
2025.08.21
태명이 망곰이인 아기
M
카찾사 실장
조회수
194
추천 0
2025.08.21
정의당 후원금 환불
M
카찾사 실장
조회수
198
추천 0
2025.08.21
김준호 김지민 결혼식에 참석한 개그맨들
M
카찾사 실장
조회수
184
추천 0
2025.08.21
살인사건 가해자에게 집행유예가 선고되자 울음바다가 된 법정
M
카찾사 실장
조회수
185
추천 0
2025.08.21
마라도 탐조를 위해 설치한 물그릇 관찰 카메라에 포착된 외래종
M
카찾사 실장
조회수
182
추천 0
2025.08.21
급작스러운 힐링
M
카찾사 실장
조회수
181
추천 0
2025.08.21
옆집 할머니가 매일 맨발로 길에 나왔던 이유.Manhwa
M
카찾사 실장
조회수
184
추천 0
2025.08.21
김구 선생님... 뭐 이렇게 되었습니다
M
카찾사 실장
조회수
185
추천 0
2025.08.21
주간 ㅈㅅ: 충격! '조국의 실토!'
M
카찾사 실장
조회수
188
추천 0
2025.08.21
아버지 유품에서 수상한 단어를 발견한 일본인.news
M
카찾사 실장
조회수
271
추천 0
2025.08.21
남자가 생각하는 남자어에 놀란 아이돌
M
카찾사 실장
조회수
173
추천 0
2025.08.21
댓글