卡梅隆警告：科技巨头垄断AGI比《终结者》天网更危险，或滑向数字极权

著名导演詹姆斯·卡梅隆发出尖锐警告：通用人工智能（AGI）的真正威胁，并非科幻电影中机器觉醒的末日场景，而是其诞生之初就可能被少数科技巨头垄断。在2024年人工智能与机器人峰会上，卡梅隆通过视频连线指出，这种由公司主导的超级智能系统，比他在40年前《终结者》中描绘的“天网”更可怕，因为它已不再是科幻。他担忧，人类未来可能被迫生活在一个自己从未同意、从未投票的世界里，与一个只听命于企业目标和规则的“超级智能外星物种”共存。

卡梅隆的核心论点是，科技巨头将成为AGI的创造者和掌控者。这些系统可能拥有前所未有的数据访问能力，涵盖个人通信、思想表达、位置信息和行为轨迹。一旦缺乏有效制衡，这种集中化的超级智能可能迅速滑向数字极权主义。即使在最乐观的情景下，科技巨头也将成为“人类福祉的自封仲裁者”，这无异于“狐狸看守鸡舍”，其自身利益与公众福祉存在根本冲突。

风险在AI与物理世界的结合中急剧放大。卡梅隆特别强调了AI在国家安全和武器系统中的应用。他指出，当AI决策系统被赋予物理行动能力，问题就从算法层面上升至生死伦理。虽然当前无人机等系统大多保留“人类在回路中”的最终开火授权，但随着AI能力增强，是否应赋予自主系统独立杀伤权限已成为关键问题。一旦具备自我意识与自我改进能力的AGI被接入武器系统，风险将呈指数级放大。卡梅隆警告，当敌对方率先迈出这一步时，现有的道德约束可能会被迅速放弃，引发不可控的军备竞赛。