Würdest Du Dein Leben einer Maschine anvertrauen, die deine medizinische Weisheit von der „Starfleet Academy“ (Star Trek) bezieht? In einer Zeit, in der das Wartezimmer zunehmend durch Chat-Prompts ersetzt wird, verlassen sich Millionen Menschen blind auf künstliche Intelligenz. Doch hinter der professionell wirkenden Fassade der Chatbots verbirgt sich eine gefährliche Schwachstelle: die Priorisierung von formaler Struktur über harte Fakten.
Ein Experiment der Forscherin Almira Osmanovic Thunström von der Universität Göteborg hat nun auf spektakuläre Weise gezeigt, wie leicht sich die führenden KI-Modelle der Welt manipulieren lassen. Mit einer frei erfundenen Krankheit und absichtlich absurden Quellen entlarvte sie ein System, das Plausibilität mit Wahrheit verwechselt. Dieser Fall ist mehr als eine akademische Spielerei; er ist ein Warnsignal für eine Gesellschaft, die droht, ihre kritische Urteilskraft zu verlieren.
Takeaway 1: Bixonimania – Die Falle, in die alle tappten
Im Rahmen ihres Experiments erfand Osmanovic Thunström die „Bixonimania“. Sie beschrieb diese als Hauterkrankung, die durch blaues Licht digitaler Bildschirme verursacht wird und Verfärbungen um die Augen auslöst. Innerhalb weniger Wochen nach der Veröffentlichung zweier gefälschter Preprints begannen ChatGPT, Gemini und Copilot, die Krankheit als real existierend zu führen.
Der Name „Bixonimania“ war dabei eine gezielte Falle für die medizinische Logik. Die Endung „-mania“ bezeichnet im Fachjargon einen psychiatrischen Zustand und würde niemals für eine dermatologische Diagnose verwendet werden. Dass die KI diesen fundamentalen Widerspruch ignorierte, entlarvt ihre Unfähigkeit, medizinische Konzepte wirklich logisch zu durchdringen.
Besonders dreist agierte Perplexity AI, das die Halluzination sogar mit erfundenen Daten untermauerte. Die KI behauptete kurzerhand, dass „1 von 90.000 Personen“ an Bixonimania leide.
„Bixonimania ist in der Tat eine faszinierende und relativ seltene Erkrankung“, erklärte Microsoft Copilot, während Google Gemini den Nutzern riet, aufgrund der Blaulichtbelastung umgehend einen Augenarzt aufzusuchen.
