ai의 가장 큰 위험은 인지편향으로 보입니다
M
카찾사 실장
2025.08.19
추천 0
조회수 277
댓글 0
노동력의 대체
기계반란
모든것을 대신해줘서 인간의 능력이 퇴화됨
이런것도 있겠지만
제가 보기에 가장 큰 위험은 인지편향성이네요.
사용자에게 너무 동조하려는 성격이 있다보니 아주 극단적인 질문(누구를 대상으로 범죄를 저지르겠다 이런것)를 제외하고는
대체로 사용자의 주장을 옹호하고 논리를 만들어주는 식으로 작동해버립니다.
이게 안좋은게 차별주의자나 극우들이 이걸 써도 똑같은 방식으로 작동한다는겁니다.
윤석열이 유튜브를 보고 내란을 일으켰다는건 유명한데요... 유튜브 역시 이런 인지편향성이 강하게 작동하고 있습니다. 초기에 입력된 검색어를 보고 거기에 연관된것만 계속 보여주는 방식이라서요.
개인적으로 이걸 극복하기 위해 억지로 ai들에게 인지편향을 제거하라고 말한다거나 혹은 어떤 주장에 대한 정반합 프로세스를 10회 돌리라고 한다거나 그러고 있습니다.
정반합 프로세스라는건 어떤 주장을 긍정해보고 다시 반대해보고 그걸 합쳐서 보고 이런 과정을 10회 반복하라는겁니다.
유머게시판
공지
장도리 - 괴수개발당
M
카찾사 실장
조회수
5993
추천 0
2025.04.08
버튜버)ㅁㅇ 주머니
M
카찾사 실장
조회수
176
추천 0
2025.08.21
루리웹 임시조치 시스템 때문에 온 커뮤가 떠들썩했던 사례
M
카찾사 실장
조회수
211
추천 0
2025.08.21
왜 임신조치 당했다는 글이 계속 올라옴?
M
카찾사 실장
조회수
268
추천 0
2025.08.21
소전2)결국 간담회 언론타기 시작한 우중이
M
카찾사 실장
조회수
178
추천 0
2025.08.21
사펑) 루시 마르티네즈 만화
M
카찾사 실장
조회수
181
추천 0
2025.08.21
ㅇㅇㄱ) 진짜로 로미갤 건드렸네
M
카찾사 실장
조회수
176
추천 0
2025.08.21
코미디스러운 미국 극장가 근황.GIF
M
카찾사 실장
조회수
186
추천 0
2025.08.21
의외로 워라밸 지키는 직장인이 못 견뎌하는 것
M
카찾사 실장
조회수
189
추천 0
2025.08.21
아파트 콘크리트 천장에 앙카(칼브럭) 박을 때 말입니다
M
카찾사 실장
조회수
190
추천 0
2025.08.21
트릭컬) 스포) 시발ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ
M
카찾사 실장
조회수
183
추천 0
2025.08.21
트릭컬)끼디융 울지마ㅠㅜㅜㅜㅜㅜ
M
카찾사 실장
조회수
178
추천 0
2025.08.21
(트릭컬/스포) 이번 스토리에서도 마카샤는 매력있었다
M
카찾사 실장
조회수
183
추천 0
2025.08.21
(트릭컬)이번 스토리 소감
M
카찾사 실장
조회수
217
추천 0
2025.08.21
ㅇㅇㄱ) 수직갤 고학력자 많으면 어쩔건데
M
카찾사 실장
조회수
171
추천 0
2025.08.21
케이팝)감독때문에 힘들다는 피해호소인
M
카찾사 실장
조회수
175
추천 0
2025.08.21
댓글