1. 研究AI授权的网络安全脆弱性多国联盟
包括谷歌、苹果、微软和亚马逊网络服务公司在内的45个以上组织共同合作调查AI系统本身所构成的日益严重的网络安全风险。 该倡议是迄今为止围绕共同的对抗性测试协议召集竞争性AI实验室和技术公司的最雄心勃勃的努力之一。 玻璃蝴蝶是一种中美洲物种,其透明的翅膀激发了伪装和隐形研究。 这一类比反映了该倡议侧重于从外部难以看出的脆弱性——具体而言,可被操纵以绕过常规安全工具的方式从事无法预测或泄漏数据的AI系统。 该财团将使用 " Mythos预览模型 " 作为共同测试基底,使成员组织能够探测AI特定攻击表面而不必依赖专有或不同能力模式。 这一宣布是在大赦国际安全界持续紧张的一段时期之后作出的,后者努力制定标准基准来评价是否可可靠地将大赦国...