ai의 가장 큰 위험은 인지편향으로 보입니다
M
카찾사 실장
2025.08.19
추천 0
조회수 238
댓글 0
노동력의 대체
기계반란
모든것을 대신해줘서 인간의 능력이 퇴화됨
이런것도 있겠지만
제가 보기에 가장 큰 위험은 인지편향성이네요.
사용자에게 너무 동조하려는 성격이 있다보니 아주 극단적인 질문(누구를 대상으로 범죄를 저지르겠다 이런것)를 제외하고는
대체로 사용자의 주장을 옹호하고 논리를 만들어주는 식으로 작동해버립니다.
이게 안좋은게 차별주의자나 극우들이 이걸 써도 똑같은 방식으로 작동한다는겁니다.
윤석열이 유튜브를 보고 내란을 일으켰다는건 유명한데요... 유튜브 역시 이런 인지편향성이 강하게 작동하고 있습니다. 초기에 입력된 검색어를 보고 거기에 연관된것만 계속 보여주는 방식이라서요.
개인적으로 이걸 극복하기 위해 억지로 ai들에게 인지편향을 제거하라고 말한다거나 혹은 어떤 주장에 대한 정반합 프로세스를 10회 돌리라고 한다거나 그러고 있습니다.
정반합 프로세스라는건 어떤 주장을 긍정해보고 다시 반대해보고 그걸 합쳐서 보고 이런 과정을 10회 반복하라는겁니다.
유머게시판
공지
장도리 - 괴수개발당
M
카찾사 실장
조회수
5886
추천 0
2025.04.08
버튜버)라디유 음해사건 정리
M
카찾사 실장
조회수
165
추천 0
2025.08.22
실크송 닌텐도 부스.
M
카찾사 실장
조회수
172
추천 0
2025.08.22
슈로대)가면라이더로 거대로봇 어케잡냐 말하는건 그냥 겜안분이지
M
카찾사 실장
조회수
157
추천 0
2025.08.22
버튜버)라디유)루리웹 댓글 관련 방송 다시보기 내린 이유..
M
카찾사 실장
조회수
154
추천 0
2025.08.22
오빠를 맥이는것에 성공한 여동생
M
카찾사 실장
조회수
138
추천 0
2025.08.22
버튜버) 라디유님 이야기가 나오는 중인데
M
카찾사 실장
조회수
153
추천 0
2025.08.22
AI음란물, 실존인물 아니면 무죄 판결 논란, 법재정 필요
M
카찾사 실장
조회수
210
추천 0
2025.08.22
라디유) 일단 다들 여기서만 근근웹 뭐시기만 패자
M
카찾사 실장
조회수
151
추천 0
2025.08.22
슈로대) SEED 오리지널 자체가 안나오니 존재감 희미한 양반
M
카찾사 실장
조회수
200
추천 0
2025.08.22
슈로대)가면라이더가 로봇이랑 싸울 수 있냐를 따지는 건 좀
M
카찾사 실장
조회수
152
추천 0
2025.08.22
실크송)늦은 이유가 너무 큰 성공을 이뤄 돈 걱정 할 필요 없어서
M
카찾사 실장
조회수
139
추천 0
2025.08.22
최근 해외 커뮤에서 재발굴되어 밈이 된 빌런 3인방.jpg
M
카찾사 실장
조회수
203
추천 0
2025.08.22
버튜버)라디유님 인성 엄청 좋으시구나
M
카찾사 실장
조회수
139
추천 0
2025.08.22
착시효과를 일으키는 박물관 전시품.GIF
M
카찾사 실장
조회수
222
추천 0
2025.08.22
독립운동가 집안에 시집 온 일본인 처자.jpg
M
카찾사 실장
조회수
205
추천 0
2025.08.22
댓글