1. 구글 딥마인드, AI 에이전트 '함정' 6가지 분석…적대적 콘텐츠 공격 성공률 최대 86%
구글 딥마인드 연구진이 자율형 AI 에이전트를 겨냥한 적대적 콘텐츠 공격의 위험성을 경고하며, 일부 시험에서 공격 성공률이 최대 86%에 달했다고 분석했다. 이는 AI 에이전트가 인터넷을 탐색하며 접하는 콘텐츠가 의도적으로 조작되어 에이전트를 속이거나 악용하도록 설계될 수 있음을 시사한다. 연구팀은 이러한 위협을 'AI 에이전트의 함정'으로 규정했다. 딥마인드는 3월 28일 발표한 논문에서 공격 유형을 콘텐츠 주입, 의미적 조작, 인지 상태, 행동 제어, 시스템적, 인간 개입형 등 총 6가지로 분류했다. 이는 단순한 데이터 오류를 넘어, AI 에이전트의 의사결정 과...