Injection de prompt sur un chatbot : des pirates siphonnent les données d'une grande institution française

Une nouvelle méthode d'attaque, l'injection de prompt sur une intelligence artificielle générative, a été utilisée pour prendre le contrôle d'un site et exfiltrer ses données. Les pirates, qui se présentent comme des « gentils hackers » et jouent la carte de l'éthique, ont revendiqué une attaque contre une grande institution française. Cette fuite s'ajoute à une série d'incidents récents, dont les attaques sur Trivy et LiteLLM, illustrant la vulnérabilité croissante des systèmes face à des techniques d'infiltration innovantes.

L'attaque repose sur une manipulation des prompts d'un chatbot, permettant aux assaillants de contourner les sécurités et d'accéder aux données sensibles du site ciblé. La méthode, détaillée par les pirates eux-mêmes, diffère des attaques par la chaîne d'approvisionnement (supply chain) qui se propagent actuellement à grande vitesse, comme observé avec Trivy, LiteLLM et Axios. Ces derniers incidents concernent la propagation de logiciels malveillants via des projets open source, créant un paysage de menace particulièrement volatile.

Cette affaire met en lumière un double risque pour les organisations : la sophistication des attaques ciblant les nouvelles technologies comme l'IA, et la difficulté à évaluer les intentions réelles des pirates qui masquent leurs actions derrière un discours éthique. Elle intervient dans un contexte où les fuites de données, les exfiltrations et les compromissions de la supply chain deviennent monnaie courante, exposant les secrets et la vie privée à un danger accru. L'incident soulève des questions sur la sécurisation des interfaces d'IA et la crédibilité des revendications des acteurs malveillants.