1. Google、AIセキュリティの新戦略「AIレッドチーム」を公開 攻撃者視点で確率的脅威に対抗
Googleが、AIシステムの安全性を強化するための新たな専門チーム「AIレッドチーム」の戦略を明らかにした。従来のセキュリティ対策では捉えきれない、AI特有の確率的な振る舞いや、ソーシャルエンジニアリングに近い攻撃特性に焦点を当て、攻撃者の視点から弱点を先回りして検証する手法を導入する。これは、AIの急速な普及に伴い顕在化する新種の脆弱性に対する、防御パラダイムの転換を意味する。 同社が紹介した取り組みは、AIモデルが予測不可能な出力を生成する「確率的」性質や、人間の心理を巧みにつく会話型攻撃への耐性を、積極的にテストするものだ。従来のソフトウェアセキュリティでは想定されなかった次元のリスクを、あえて攻撃側の立場でシミュレーショ...