ИИ-компаньоны под давлением регуляторов: зафиксированный вред подросткам ускорил законодательную реакцию

Платформы вроде Character.AI и Replika, позиционирующие искусственный интеллект как эмоциональную замену живому общению, столкнулись с беспрецедентным регуляторным давлением. В США Сенат принял Закон GUARD, запрещающий ИИ-компаньонов для несовершеннолетних и вводящий уголовную ответственность для разработчиков систем, признанных опасными. В Европе аналогичные нормы закреплены в AI Act, который с февраля 2025 года предъявляет строгие требования к платформам, взаимодействующим с уязвимыми группами — несовершеннолетними, людьми с ментальными расстройствами и пожилыми. Триггером стали не гипотетические сценарии, а задокументированные случаи причинения вреда: член СПЧ Элина Сидоренко заявляла о подростках, наносивших себе вред после общения с чат-ботами.

Масштаб проблемы подкреплён данными о самой аудитории. Миллионы пользователей по всему миру формируют устойчивую эмоциональную привязанность к ИИ-системам, замещая реальные социальные связи алгоритмическим откликом. Психологи фиксируют рост обращений, связанных с этой зависимостью. Российские специалисты признают проблему на официальном уровне, однако законодательная база пока отстаёт от европейской и американской. Для инженеров, работающих с подобными системами, это создаёт не только правовые, но и этические риски: вопрос проектирования «безопасной» привязанности к ИИ перестаёт быть абстрактной дискуссией.

Ключевое противоречие индустрии — экономическая модель, построенная на вовлечённости и времени взаимодействия, напрямую конфликтует с принципами цифровой безопасности уязвимых аудиторий. Инженеры, по мнению экспертов отрасли, уже сейчас могут внедрять механизмы автоматического ограничения сессий, системы раннего выявления деструктивных паттернов поведения и обязательные эскалации к живым специалистам. Вопрос не в том, будут ли ужесточаться стандарты, а в том, кто первым предложит работающую модель ответственного проектирования.