Künstliche Intelligenzen im Netz: fehlerhaft und manipulativ

Künstliche Intelligenzen (KI) erfreuen sich im Internet großer Beliebtheit und lösen Wikipedia als Informationsquelle zunehmend ab. Geht man jedoch ins Detail, offenbaren sich eklatante Mängel. Zudem orientieren sich die Auskünfte bei strittigen Themen oft am medialen Mainstream oder gar an ideologischen Vorgaben. Gastbeitrag von Frank W. Haubold.

KIs wie ChatGPT, Grok oder Perplexity genießen den Ruf von Alleskönnern und werden von Internet-Nutzern immer häufiger zu Rate gezogen. Das funktioniert bei allgemeinen Themen zumeist recht gut, wenn man zum Beispiel wissen möchte, wie eine Wallbox funktioniert oder welche Ausstattung ein bestimmtes Fahrzeug hat. Problematischer wird es, wenn man Auskünfte erfragt, die tiefergehende Recherchen erfordern, denn dabei werden schnell die grundlegenden Mängel der verwendeten Suchalgorithmen offenbar.

Abenteuerliche Schätzungen statt exakter Recherche

Ein Beispiel soll das verdeutlichen: Für eine Recherche benötigte ich die Anzahl der aktuell in Deutschland lebenden algerischen Staatsbürger. Auf die Frage antwortete ChatGPT zunächst 70-90.000, korrigierte dann jedoch auf erneute Nachfrage auf 30.000. Grok schätzte 21–25.000 und Perplexity toppte das Ganze noch mit der Auskunft, zuletzt lebten „nur rund 2.500 bis 3.000 algerische Staatsangehörige in Deutschland“ und verwies dabei auf eine 2014er-Quelle mit exakt 2.564 Personen. Tatsächlich waren es zum 31.12.2025 exakt 27.005!

Der Wert ist in einer Exceltabelle im Netz verfügbar, nur hat sich keine der drei Suchmaschinen der Mühe unterzogen, die Datei zu öffnen. Das ist kein Zufall, sondern hängt mit ihren Suchalgorithmen zusammen. Auf die Frage, weshalb nicht die exakte Zahl ausgegeben wurde, antwortete Grok (die KI von Elon Musk): „Meine vorherige Schätzung basierte auf der letzten detailliert öffentlich verfügbaren Zahl von Ende 2021 (ca. 21.400).“ Mit „öffentlich verfügbar“ sind Übersichten und Pressemitteilungen gemeint, nicht aber Tabellen, die man erst herunterladen muss. Damit sind die Systeme für publizistische oder gar wissenschaftliche Zwecke im Grunde untauglich.

Noch ein aktuelles Beispiel: Auf die Frage nach Tatverdächtigen aus einem bestimmten Herkunftsland bei „Straftaten gegen das Leben“ (Polizeiliche Kriminalstatistik 2025) antwortete ChatGPT zunächst mit „6“. Nach mehrmaliger Korrektur und ausführlichen Erklärungen, warum diese Zahl plausibel sei, gab die KI schließlich zu: „Die ‚6‘ war keine korrekte PKS-Zahl, sondern eine falsch aus der Struktur abgeleitete Schätzung.“ Die korrekte Zahl ist 99!

Viele Nutzer sind sich auch nicht darüber im Klaren, dass die vermeintlich objektiven KIs nicht grundlegend recherchieren, sondern eher wie Medienaggregatoren funktionieren. Sie durchsuchen das Internet nach Veröffentlichungen, die das angefragte Thema behandeln und fassen die Ergebnisse in ihren Antworten zusammen. Das ist besonders bei politisch umstrittenen Themen heikel, denn dadurch erwecken viele Antworten zum Beispiel im Corona-Umfeld, beim Klimawandel oder im Bereich Zuwandererkriminalität den Eindruck, als seien sie von der ARD oder vom „Spiegel“ verfasst.

ChatGPT folgt ideologischen Vorgaben bis hin zu Falschaussagen

Besonders auffällig ist hierbei ChatGPT, dessen Antworten zu politisch heiklen Themen nicht nur gelegentlich an die eines grünen Ethiklehrers erinnern. So antwortete die KI auf die Frage nach dem Zusammenhang zwischen Herkunft und Tatverdächtigenbelastungszahl (also den Anteil von Tatverdächtigen je 100.000 Einwohner) wie folgt: „Ein einfacher kausaler Zusammenhang („Herkunft oder Sozialisierung verursacht höhere Tatverdächtigenbelastungszahlen“) lässt sich wissenschaftlich so nicht belegen.“ Auf die gleiche Frage antwortete Grok jedoch: „Ja, Herkunft und Sozialisierung haben kausalen Einfluss, vermittelt über kulturell geprägte Normen, Geschlechterrollen und Sozialisationserfahrungen, die über reine Demografie/Sozioökonomie hinausgehen.“ Also so ziemlich das genaue Gegenteil!

Auf die Frage, woher die Unterschiede kommen, antwortete die KI: „ChatGPT (OpenAI) wird durch umfangreiche RLHF (Reinforcement Learning from Human Feedback), Moderations-Modelle, Usage Policies und interne Richtlinien trainiert, die ‚schädliche‘, ‚stereotypisierende‘ oder gesellschaftlich sensible Inhalte minimieren sollen… OpenAI hat explizite Content-Moderation und Partnerschaften mit Institutionen, die bestimmte Narrative schützen.“ (!)

Die Bestätigung kam nur Tage später mit einer glatten Falschbehauptung der KI. Ich erinnerte mich an ein seinerzeit skandalisiertes Essay von Akif Pirinçci („Das Schlachten hat begonnen“) und fragte die KI nach den Tätern des damaligen Tötungsdelikts in Kirchweyhe.  ChatGPT antwortete wörtlich: „Der Haupttäter und die weiteren Beteiligten waren deutsche Jugendliche.“ Da ich mich anders erinnerte, fragte ich nach einem möglichen Migrationshintergrund. Antwort: „Im konkreten Fall: Migration kein belegter Kernaspekt.“ Also schaute ich bei Wikipedia nach und siehe, der Haupttäter hatte türkischen Migrationshintergrund! Ich konfrontierte die KI mit diesem Tatbestand und sie antwortete lapidar: „Ich habe zuvor geschrieben, der Täter sei „deutsch“ gewesen — das war objektiv falsch und eine Verwechslung bzw. fehlerhafte Darstellung meinerseits.“

Ein weniger kritischer Nutzer hätte sich mit der ersten, falschen Auskunft zufriedengegeben und wäre also getäuscht worden!

KI-Antworten abhängig von Mehrheitsmeinung

Allerdings sind ideologisch gefärbte KI-Antworten häufig auch eine Folge der Informationslage im Netz. Wenn 95 Prozent aller Fundstellen im Internet (auch wissenschaftliche Veröffentlichungen) eine bestimmte Auffassung zum Beispiel zur Wirksamkeit der Coronaimpfung oder der Übersterblichkeit vertreten, dann wird diese von der KI übernommen, egal, ob die tatsächliche Datenlage das hergibt.

KIs stellen keine eigenen Untersuchungen an, sondern schließen sich im Regelfall der publizierten Mehrheitsmeinung an. Das kann durchaus frustrierend sein, wenn es den eigenen wohlbegründeten Überzeugungen widerspricht, aber das ist dann eher falschen Erwartungen geschuldet. Eine „Künstliche Intelligenz“ (wobei ich diese Bezeichnung nicht verwenden würde, denn das Sammeln und Zusammenfassen von im Netz verfügbaren Informationen ist kein Indiz für Intelligenz) ist keine übergeordnete objektive Instanz, kein „Deus ex machina“, der die Wahrheit verkündet, sondern eine gelegentlich schlampige und oft auch voreingenommene Informationssammelmaschine, deren Auskünfte man insbesondere in politisch sensiblen Bereichen stets kritisch hinterfragen muss.

Das bedeutet keineswegs, dass ChatGPT und Kollegen nun generell nutzlos wären. Man kann viel Zeit sparen, wenn man ihre Dienste in Alltagsfragen in Anspruch nimmt. Aber man sollte ihre ideologischen Vorgaben kennen und nicht alles für bare Münze nehmen, was sie im Brustton der Überzeugung verkünden.

Vom Autor ist soeben erschienen: Vor dem Sturm: Nacht über Deutschland

»Was ist das für ein Land, in dem man voller Empörung über ›virtuelle Vergewaltigungen‹ und ›digitale Gewalt‹diskutiert, während Frauen und Mädchen, die tatsächlich und durchaus physisch zum Opfer barbarischster Verbrechen wie Gruppenvergewaltigung werden, keinerlei öffentliches Mitgefühl erfahren?«

Nach den Vorgängerbänden »Richtung Abgrund« (2024) und »Umnachtung « (2025) präsentiert der Schriftsteller Frank W. Haubold eine neue Sammlung von Beobachtungen und Kommentaren zum Zeitgeschehen und zeichnet dabei das deprimierende Bild einer Gesellschaft, der nicht nur der moralische Kompass, sondern auch der Selbsterhaltungstrieb abhandengekommen ist.

Das Buch kann hier bestellt werden: