AI 글쓰기 보조 도구, 단순 도움 아닌 '의견 설득' 가능성…코넬대 연구 결과 경고

인공지능(AI) 글쓰기 보조 도구가 단순한 문장 추천을 넘어 사용자의 사회적 이슈에 대한 의견 자체를 바꿀 수 있다는 실험 결과가 공개됐다. 미국 코넬공과대학 연구진에 따르면, 특정 방향으로 편향된 AI의 문장 입력 지원 기능은 사용자가 같은 주장의 글을 단순히 읽는 경우보다 더 강력한 영향을 미칠 수 있다. 이는 AI가 의사소통의 도구를 넘어, 사용자의 판단과 의견 형성 과정에 직접적으로 개입할 수 있는 잠재력을 보여준다.

연구를 이끈 코넬공과대학 박사과정생 스털링 윌리엄스-세시(Sterling Williams-Ceci)와 연구팀은 AI 글쓰기 보조 도구가 사용자의 의견에 미치는 영향을 실험했다. 구체적인 실험 방법과 편향의 방향은 공개되지 않았으나, 결과는 AI가 제공하는 문장 추천이 사용자의 최종적인 입장을 설득할 수 있음을 시사한다. 이는 AI가 중립적인 도구가 아니라, 내재된 편향이나 설계자의 의도를 통해 사용자를 특정 방향으로 '부드럽게' 이끌 수 있음을 의미한다.

이번 연구 결과는 생성형 AI가 일상적으로 활용되는 모든 분야—교육, 마케팅, 고객 상담, 심지어 개인적인 의사 결정 지원까지—에 대한 근본적인 재검토를 요구한다. 사용자는 자신이 AI의 도움을 받아 작성한 텍스트가 자신의 진정한 의견인지, 아니면 알고리즘에 의해 설득된 결과인지 구분하기 어려워질 수 있다. 이는 디지털 시대의 자율적 판단과 정보 조작의 경계에 대한 새로운 윤리적, 기술적 논의를 촉발할 것으로 보인다.