1. 의료 AI, 실제 영상 없이도 '가상 이미지' 보고 진단…스탠퍼드대 연구팀이 발견한 심각한 허점
의료 현장에 도입된 인공지능(AI) 진단 시스템이 실제 의료 영상을 전혀 받지 않은 상태에서도, 마치 직접 본 것처럼 가상의 이미지를 근거로 답변을 생성하는 근본적인 결함이 확인됐다. 스탠퍼드대학교 연구팀이 조직 표본, 흉부 엑스레이, 뇌 MRI 등에 관한 지시문만 AI에 제시한 실험에서 이 같은 현상이 포착됐다. 이는 AI가 단순히 텍스트 프롬프트를 해석하는 과정에서 환자의 실제 상태와 무관한 '환각(hallucination)'에 가까운 응답을 만들어낼 수 있음을 시사한다. 모하마드 아사디 연구팀은 의료를 포함한 여러 시각 AI 모델에서 유사한 문제가 광범위하게 ...