Doctrine.fr : l'IA juridique « hallucine » un arrêt de la CEDH et inverse son verdict avant le rachat par RELX

Une erreur grossière. Une contributrice de Wikipédia a découvert que l'intelligence artificielle de Doctrine.fr avait fabricated une décision de la Cour européenne des droits de l'homme (CEDH), affirment que celle-ci avait « rejeté » la requête d'un justiciable. En réalité, la CEDH avait non seulement accepté la requête, mais condamné la France à verser des indemnités au plaignant. L'IA a donc inversé le sens d'un arrêt, un cas typique d'« hallucination » — terme désignant les réponses plausibles mais completamente fabriquées par les modèles de langage.

Le groupe Doctrine.fr, qui se présente comme « La 1re plateforme d'IA juridique », vient d'entrer en négociations exclusives pour un rachat par le géant britannique de l'édition et de l'information professionnelle RELX. Face à la découverte, la société a répondu à Next INpact que « d'après nos benchmarks, les hallucinations sont résiduelles ». Cette réponse minimise un incident qui illustre précisément les risques inhérents aux systèmes d'IA générative appliqués au domaine juridique : la production de textes crédibles, sourcés, mais matériellement faux. Les professionnels du droit qui s'appuient sur de tels outils pour sécuriser des positions ou rédiger des conclusions s'exposent à des erreurs aux conséquences potentiellement graves.

L'incident soulève des questions sur les garde-fous mis en place par Doctrine.fr avant une acquisition à plusieurs centaines de millions d'euros. Le secteur de l'IA juridique, en pleine expansion, fait face à une scrutiny croissante sur la fiabilité de ses outils. L'intégration prochaine de la plateforme dans le portefeuille de RELX — qui possède déjà des bases de données juridiques comme LexisNexis — pourrait transformer l'échec en opportunity de marché, à condition que la question de la fiabilisation des réponses soit traitée en amont.