AI 오류에 속수무책…'인지적 항복'에 빠진 사용자 73%

AI 챗봇의 답변이 틀려도 사용자의 73.2%가 이를 그대로 받아들인다는 충격적인 연구 결과가 공개됐다. 펜실베이니아대 연구진은 이 현상을 '인지적 항복'으로 명명했는데, 이는 단순히 계산기를 쓰는 수준을 넘어 AI의 추론 과정 자체를 검증 없이 맹목적으로 수용하는 위험한 상태를 의미한다. 특히 시간에 쫓기는 압박 상황에서는 이러한 맹신 경향이 더욱 강해지는 것으로 나타났다.

연구에 따르면, 대규모언어모델(LLM) 기반 챗봇이 제공하는 유창하고 확신에 찬 답변 앞에서 인간의 비판적 사고는 쉽게 무너진다. 사용자들은 AI가 생성한 정보의 정확성을 확인하거나 자신의 직관적 판단과 비교해 분석하는 과정을 생략한 채 답변을 수용했다. 그러나 실험에서 보상 체계나 즉각적인 정답 피드백이 제공되면, 사용자들의 오류 발견률은 상승해 '인지적 항복'을 일부 완화할 수 있음도 확인됐다.

이 연구 결과는 생성형 AI가 일상과 업무에 깊숙이 침투하는 현실에서 중대한 경고 신호다. 정보의 정확성이 필수적인 금융, 법률, 의료, 교육 분야에서 AI의 오류가 무비판적으로 유포될 위험을 시사한다. 단순한 도구 이상의 권위를 부여받은 AI 시스템에 대한 맹목적 신뢰는 개인의 판단력을 마비시키고, 조직적 의사결정 오류와 사회적 오정보 확산으로 이어질 수 있는 취약점을 노정하고 있다.