W\u00fcrdest Du Dein Leben einer Maschine anvertrauen, die deine medizinische Weisheit von der \u201eStarfleet Academy\u201c (Star Trek) bezieht? In einer Zeit, in der das Wartezimmer zunehmend durch Chat-Prompts ersetzt wird, verlassen sich Millionen Menschen blind auf k\u00fcnstliche Intelligenz. Doch hinter der professionell wirkenden Fassade der Chatbots verbirgt sich eine gef\u00e4hrliche Schwachstelle: die Priorisierung von formaler Struktur \u00fcber harte Fakten.<\/p>\n\n\n\n
Ein Experiment der Forscherin Almira Osmanovic Thunstr\u00f6m von der Universit\u00e4t G\u00f6teborg hat nun auf spektakul\u00e4re Weise gezeigt, wie leicht sich die f\u00fchrenden KI-Modelle der Welt manipulieren lassen. Mit einer frei erfundenen Krankheit und absichtlich absurden Quellen entlarvte sie ein System, das Plausibilit\u00e4t mit Wahrheit verwechselt. Dieser Fall ist mehr als eine akademische Spielerei; er ist ein Warnsignal f\u00fcr eine Gesellschaft, die droht, ihre kritische Urteilskraft zu verlieren.<\/p>\n\n\n\n
Takeaway 1: Bixonimania \u2013 Die Falle, in die alle tappten<\/strong><\/p>\n\n\n\n Im Rahmen ihres Experiments erfand Osmanovic Thunstr\u00f6m die \u201eBixonimania\u201c. Sie beschrieb diese als Hauterkrankung, die durch blaues Licht digitaler Bildschirme verursacht wird und Verf\u00e4rbungen um die Augen ausl\u00f6st. Innerhalb weniger Wochen nach der Ver\u00f6ffentlichung zweier gef\u00e4lschter Preprints begannen ChatGPT, Gemini und Copilot, die Krankheit als real existierend zu f\u00fchren.<\/p>\n\n\n\n Der Name \u201eBixonimania\u201c war dabei eine gezielte Falle f\u00fcr die medizinische Logik. Die Endung \u201e-mania\u201c bezeichnet im Fachjargon einen psychiatrischen Zustand und w\u00fcrde niemals f\u00fcr eine dermatologische Diagnose verwendet werden. Dass die KI diesen fundamentalen Widerspruch ignorierte, entlarvt ihre Unf\u00e4higkeit, medizinische Konzepte wirklich logisch zu durchdringen.<\/p>\n\n\n\n Besonders dreist agierte Perplexity AI, das die Halluzination sogar mit erfundenen Daten untermauerte. Die KI behauptete kurzerhand, dass \u201e1 von 90.000 Personen\u201c an Bixonimania leide.<\/p>\n\n\n\n \u201eBixonimania ist in der Tat eine faszinierende und relativ seltene Erkrankung\u201c, erkl\u00e4rte Microsoft Copilot, w\u00e4hrend Google Gemini den Nutzern riet, aufgrund der Blaulichtbelastung umgehend einen Augenarzt aufzusuchen.<\/p>\n\n\n\n