ai의 가장 큰 위험은 인지편향으로 보입니다
M
카찾사 실장
2025.08.19
추천 0
조회수 368
댓글 0
노동력의 대체
기계반란
모든것을 대신해줘서 인간의 능력이 퇴화됨
이런것도 있겠지만
제가 보기에 가장 큰 위험은 인지편향성이네요.
사용자에게 너무 동조하려는 성격이 있다보니 아주 극단적인 질문(누구를 대상으로 범죄를 저지르겠다 이런것)를 제외하고는
대체로 사용자의 주장을 옹호하고 논리를 만들어주는 식으로 작동해버립니다.
이게 안좋은게 차별주의자나 극우들이 이걸 써도 똑같은 방식으로 작동한다는겁니다.
윤석열이 유튜브를 보고 내란을 일으켰다는건 유명한데요... 유튜브 역시 이런 인지편향성이 강하게 작동하고 있습니다. 초기에 입력된 검색어를 보고 거기에 연관된것만 계속 보여주는 방식이라서요.
개인적으로 이걸 극복하기 위해 억지로 ai들에게 인지편향을 제거하라고 말한다거나 혹은 어떤 주장에 대한 정반합 프로세스를 10회 돌리라고 한다거나 그러고 있습니다.
정반합 프로세스라는건 어떤 주장을 긍정해보고 다시 반대해보고 그걸 합쳐서 보고 이런 과정을 10회 반복하라는겁니다.
유머게시판
공지
장도리 - 괴수개발당
M
카찾사 실장
조회수
6123
추천 0
2025.04.08
"성과금 많이 받는다고 행복해질거같아??"
M
카찾사 실장
조회수
225
추천 0
2025.08.21
화장실 간 사이에 지갑에 손댐
M
카찾사 실장
조회수
229
추천 0
2025.08.21
면접없이 그냥 나오라한 자소서
M
카찾사 실장
조회수
247
추천 0
2025.08.21
재혼 하면서 생긴 의붓딸이 중학생이 되니까 점점 예뻐져요...
M
카찾사 실장
조회수
237
추천 0
2025.08.21
산부인과 의사가 말하는 임신 잘되는 체위.JPG
M
카찾사 실장
조회수
358
추천 0
2025.08.21
질문글 역대급 반가움.jpg
M
카찾사 실장
조회수
245
추천 0
2025.08.21
트릭컬)테마극장 G.O.A.T
M
카찾사 실장
조회수
234
추천 0
2025.08.21
요즘 중국집에서 없어지고 있는 메뉴
M
카찾사 실장
조회수
242
추천 0
2025.08.21
"헤에 아무리 경호원이라도 이런 곳까지 들어오다니"
M
카찾사 실장
조회수
234
추천 0
2025.08.21
ㅇㅇㄱ) 이미지로 보는 국민 청원에 우왁굳 실체급이 전부 동원되었다는 근거
M
카찾사 실장
조회수
227
추천 0
2025.08.21
ㅇㅇㄱ) 조기진압, 퇴출이를 재평가할 필요 없는 이유
M
카찾사 실장
조회수
249
추천 0
2025.08.21
롤) ??? : 역시 범인은 너였군 비디디
M
카찾사 실장
조회수
345
추천 0
2025.08.21
아, 미안⋯ 친해지고 싶은 맘에 한 말인데 좀 불편했나 보구나, 조심할게⋯.jpg
M
카찾사 실장
조회수
343
추천 0
2025.08.21
책을 보관하는 사람 족고수
M
카찾사 실장
조회수
237
추천 0
2025.08.21
점심 식사를 대접하는 티라노 사우루스.manga
M
카찾사 실장
조회수
348
추천 0
2025.08.21
댓글