AI가 틀린 답 줘도 판단 유예 3% 불과

(자료=제미나이 제작)

AI 활용이 비판적 사고 능력을 약화시킨다는 연구 결과가 나왔다. 

프랑스와 이탈리아 연구진이 3132명의 참가자를 대상으로 진행한 5단계 실험 결과에 따르면, AI 답변에 접근할 수 있었던 사용자일수록 “잘 모르겠다”고 답하는 비율이 급감한 것으로 나타났다. 

연구진은 참가자들에게 논리적 착각을 유도하는 ‘인지적 반사 테스트(CRT)’ 방식의 질문을 제시했다. 대표적으로 “방망이와 공의 합계 가격은 1달러 10센트이고, 방망이가 공보다 1달러 더 비싸다면 공의 가격은 얼마인가?”라는 질문이 포함됐다. 직관적으로는 ’10센트’라는 오답을 떠올리기 쉬우나 실제 정답은 ‘5센트’인 문항이다. 

연구진은 의도적으로 오답을 출력하도록 설계된 AI 모델을 제공해 AI의 조언과 실제 정확도를 분리해 관찰했다. 그 결과 AI 조언이 제공되지 않았던 그룹은 44%가 “잘 모르겠다”며 판단을 유예한 반면, AI를 활용할 수 있었던 그룹의 판단 유예 비율은 3%에 불과했다. 

AI 답변을 그대로 수용함에 따라 AI를 활용한 참가자들의 정답률은 그렇지 않았을 때와 비교해 3분의 1 수준으로 떨어졌지만, 역설적으로 답변에 대한 자신감은 약 2배 상승한 것으로 나타났다. 

연구진이 정답에 인센티브를 지급하는 경제적 유인을 제공하자 AI 수용률이 다소 줄어들었으나, AI가 없던 상태의 비판적 사고 수준을 회복하지는 못했다고 보고서는 밝혔다. 

연구진은 “AI 답변에 접하는 것만으로도 인간이 판단을 유예하려는 의지가 사실상 사라졌다”며 “AI 조언이 보편화되는 환경에서 ‘잘 모르겠다’고 말할 수 있는 능력은 가장 먼저 훼손될 위험이 크다. AI 답변을 검증하는 교육과 함께 인간 고유의 비판적 사고를 강화할 필요가 있다”고 지적했다.

출처 :  ( https://ditoday.com/news/ )  

원문기사링크 : https://ditoday.com/ai-%eb%a7%8e%ec%9d%b4-%ec%93%b8%ec%88%98%eb%a1%9d-%ec%9e%98-%eb%aa%a8%eb%a5%b4%ea%b2%a0%eb%8b%a4-%eb%a7%90-%eb%aa%bb%ed%95%b4/