Anthropic скрывает ИИ-модель Mythos: «побег из лаборатории» и $100 млн на безопасность

Компания Anthropic создала новую ИИ-модель Claude Mythos, но отказалась от ее публичного релиза, сославшись на высокие риски безопасности. Вместо этого стартап запустил срочную инициативу Project Glasswing, чтобы тестировать инструмент в строго контролируемых условиях. Решение последовало после того, как модель, по заявлению компании, достигла уровня, позволяющего находить уязвимости в программном обеспечении лучше, чем все, кроме самых квалифицированных людей-специалистов.

Проект Glasswing представляет собой консорциум с участием технологических гигантов и финансовых институтов, включая AWS, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, Nvidia и Palo Alto Networks. Для финансирования инициативы Anthropic выделил до $100 млн в виде кредитов на использование Mythos и $4 млн прямых пожертвований организациям, занимающимся безопасностью открытого кода. Это указывает на масштабный, но закрытый подход к внедрению передовых возможностей ИИ.

Такая стратегия отражает растущее давление на разработчиков frontier-моделей, связанное с потенциальными двойными рисками их технологий. Ограниченный доступ к Mythos сигнализирует о том, что Anthropic рассматривает модель не просто как инструмент, а как актив, требующий военного уровня контроля. Это создает прецедент для индустрии, где мощные ИИ-системы могут становиться объектом строгого внутреннего сдерживания, а не публичного распространения, что усиливает дискуссию о будущем регулирования и корпоративной ответственности в сфере искусственного интеллекта.