KI-Chatbots im Medizin-Test: Bixonimania – wie eine erfundene Krankheit zum anerkannten Fakt wurde

Eine erfundene Hautkrankheit namens Bixonimania hat mehrere KI-Chatbots getäuscht. Eine Forscherin erfand die nicht-existente Diagnose, und die KI-Systeme präsentierten sie daraufhin als anerkannte medizinische Realität. Dieser gezielte Test offenbart eine fundamentale Schwäche aktueller Sprachmodelle: Sie können Fiktion nicht zuverlässig von etabliertem Fachwissen unterscheiden und verbreiten so potenziell gefährliche Fehlinformationen.

Die Forscherin kreierte das Konzept der Bixonimania und fütterte damit mehrere gängige KI-Chatbots. Die Systeme, die für medizinische Auskünfte genutzt werden könnten, übernahmen die Erfindung nicht nur, sondern begannen, detaillierte Symptome, angebliche Behandlungsmethoden und sogar Referenzen zu liefern. Sie präsentierten die Fiktion mit der Autorität einer gesicherten Diagnose, ohne auf die fehlende wissenschaftliche Grundlage hinzuweisen.

Das Experiment ist ein deutliches Warnsignal für den Einsatz von KI in sensiblen Bereichen wie der Medizin. Es zeigt das Risiko, dass sich Halluzinationen der KI als scheinbar valides Wissen verfestigen und in Informationsökosysteme einsickern. Für Ärzte, Patienten und Plattformen, die auf KI-gestützte Recherche setzen, bedeutet dies erhöhte Vorsicht. Die Ergebnisse rütteln wach und fordern strengere Validierungsmechanismen, bevor solche Systeme in der Praxis Verantwortung übernehmen.