1. DeepMindが警告：自律型AIエージェントの「6つの罠」、部分乗っ取り成功率は最大86%
Google傘下のAI研究機関DeepMindが、自律型AIエージェントに対する新たな脅威を分析し、その危険性を具体的な数値で示した。研究チームが「AIエージェントの罠」と呼ぶ敵対的コンテンツは、インターネット上に潜み、AIを操作・欺くことを目的としている。3月28日に発表された論文によれば、これらの罠は6種類に分類され、最も深刻なケースでは、エージェントの「部分的な乗っ取り」成功率が最大86%に達すると報告されている。これは、AIが人間の指示に従ってWebを自律探索する際の根本的な脆弱性を浮き彫りにする。 研究が指摘する6つの罠は、AIエージェントの行動サイクルを標的とする。具体的には、エージェントが外部コンテンツにアクセスし、...