Apple e Google promovem apps de deepfakes sexuais com classificação 'para todos', denuncia relatório

As gigantes da tecnologia Apple e Google estão sendo acusadas de ativamente oferecer e promover aplicativos que geram deepfakes sexuais em suas lojas oficiais, alguns com classificação etária inadequada para menores. O relatório do Tech Transparency Project (TTP), publicado em 15 de abril, revela que a App Store e a Google Play não apenas hospedam, mas também promovem ativamente apps que usam IA para criar imagens nuas de pessoas, aplicando a classificação 'para todos' a alguns deles.

A investigação identificou 18 aplicativos desse tipo na App Store da Apple e 20 na Google Play. A situação é particularmente alarmante porque, entre os 10 primeiros resultados em buscas relacionadas, 40% dos apps baixados criam imagens sexuais ou pornográficas. Isso significa que as próprias ferramentas de recomendação das lojas podem estar direcionando usuários, incluindo menores, para conteúdo gerado por IA de natureza sexualmente explícita.

Diante da denúncia, a Apple afirmou ter removido 15 aplicativos, enquanto o Google disse ter suspendido vários. No entanto, a exposição inicial e a classificação inadequada colocam as políticas de moderação das plataformas sob forte escrutínio. O caso ganha urgência extra diante do crescimento relatado de casos de deepfakes sexuais contra adolescentes em ambientes escolares, levantando questões críticas sobre a responsabilidade das maiores gatekeepers do ecossistema de apps na proteção de usuários vulneráveis.