Anthropic、AI悪用防止へ本人確認機能を導入。政府発行IDと自撮り写真で厳格な検証

AI開発の新興企業Anthropicが、AIツールの悪用防止と法的コンプライアンス強化を目的に、一部のユースケースにおいて本人確認機能の導入を開始した。これは、生成AIが社会に与える潜在的なリスクへの対応を、実質的な技術的・運用的な対策へと具体化した動きだ。外部パートナーであるPersona Identitiesのシステムを活用し、政府発行の身分証明書とユーザーの自撮り写真を照合する厳格なプロセスを構築。収集された個人データは、本人確認の目的のみに使用され、同社の基幹であるAIモデルの学習には一切利用されないと明確に区別している。

この措置は、特に金融、医療、法務など、高い信頼性と説明責任が求められる分野でのAI利用を想定したものと見られる。Anthropicは、自社のAIモデル「Claude」が持つ高度な能力が、なりすましや虚偽情報の拡散、その他の悪意ある目的に悪用されるリスクに直面している。規制当局や社会からの監視が強まる中、企業としての責任を果たし、信頼を構築するための積極的な一歩と言える。

導入は「一部のユースケース」に限定されており、全てのユーザーに一律に適用されるものではない。これは、ユーザビリティとセキュリティのバランスを探りながら、段階的に適用範囲を拡大する戦略的アプローチを示唆している。AI業界全体が、急速な技術革新とそれに伴う社会的懸念の狭間で、適切なガバナンスの枠組みを模索する中、Anthropicの今回の動きは、自主規制の具体的なケーススタディとして、他社や政策立案者に影響を与える可能性がある。