Neunundachtzig Prozent. So hoch schätzte GPTZero, einer der verbreitetsten KI-Detektoren, die Wahrscheinlichkeit ein, dass ein acht Jahre alter Fachartikel von mir, zweifelsfrei mit der Hand und ohne jedes Sprachmodell geschrieben, künstlich erzeugt worden sei. Ein aktueller, tatsächlich mit KI vorformulierter und von mir redigierter Text derselben Länge kam beim selben Werkzeug auf 30 Prozent. Der alte Text war menschlicher als der neue, laut Maschine. Genau umgekehrt.
Diese Zahlen sind kein Ausrutscher. Sie zeigen, wie wenig ein einzelner Prozentwert über die tatsächliche Herkunft eines Textes aussagt, und sie erklären, warum die Kennzeichnungspflicht aus dem AI Act auf ein anderes Prinzip setzt als auf Detektoren: nicht Erkennung, sondern Offenlegung durch den, der den Text veröffentlicht.
Wie zuverlässig sind KI-Detektoren wirklich?
Die belastbarste Antwort liefert eine Stanford-Studie von Weixin Liang und Kollegen aus dem Jahr 2023, die sieben verbreitete Detektoren an 91 TOEFL-Aufsätzen von Nicht-Muttersprachlern testete. Ergebnis: Im Schnitt stuften die sieben Tools 61 Prozent dieser zweifelsfrei menschlichen Texte fälschlich als KI-generiert ein; mindestens ein Detektor schlug bei 89 der 91 Aufsätze Alarm, macht 97,8 Prozent. Bei Aufsätzen amerikanischer Achtklässler, also Muttersprachlern, lag die Erkennung dagegen nahe an perfekt. Der Unterschied liegt nicht am Text selbst, sondern an seiner sprachlichen Signatur: kürzere Sätze, weniger idiomatische Wendungen, eine geringere lexikalische Streuung, all das interpretieren die Modelle als Hinweis auf Maschinenerzeugung, obwohl es schlicht Merkmale von Zweitsprachlern sind.
Eine zweite, breiter angelegte Untersuchung von Weber-Wulff und Kollegen testete 14 Tools gegen Texte unterschiedlicher Herkunft. Keines erreichte eine Gesamtgenauigkeit von 80 Prozent. Die Autoren fassten es so zusammen: Detektoren seien "weder genau noch zuverlässig". Wer daraus eine feste Fehlerquote destillieren möchte, die für jeden Text und jedes Tool gilt, verlangt der Forschung mehr Präzision ab, als sie hergibt; belastbar ist nur die Grundaussage, dass die Bandbreite von nahezu fehlerfrei bis erheblich daneben reicht, je nach Textart, Sprache und Werkzeug.
Ein Prozentwert, der bei Nicht-Muttersprachlern systematisch danebenliegt, ist kein Messfehler. Er ist eine strukturelle Verzerrung.
Wann entfällt die Kennzeichnungspflicht nach Artikel 50 AI Act?
Sie entfällt nicht, seit dem 2. August 2026 gilt sie erstmals verbindlich. Die Leitlinien der EU-Kommission stellen unmissverständlich klar: "Article 50 of the AI Act applies from 2 August 2026." Wer KI-generierte Inhalte veröffentlicht, muss dies kenntlich machen, mit eigenen, schärferen Regeln für Deepfakes und synthetische Medien, die reale Personen, Orte oder Ereignisse täuschend echt nachbilden.
Bemerkenswert an dieser Pflicht ist, was sie nicht verlangt. Sie schreibt keine bestimmte Erkennungssoftware vor, und sie verlangt keinen bestimmten Prozentwert an KI-Anteil. Sie verlangt Offenlegung durch den Veröffentlichenden selbst, nicht Aufdeckung durch einen Detektor. Das ist konsequent, denn ein Gesetz, das sich auf ein technisch nachweislich unzuverlässiges Messinstrument stützen würde, wäre von Anfang an angreifbar. Die Verantwortung liegt dort, wo sie hingehört: bei der Person, die den Text freigibt, nicht bei einer Software, die im Zweifel den falschen Aufsatz markiert.
Was der Anthropic-Vergleich mit Textprüfung zu tun hat
Hier wird es unbequem, auch für ein Unternehmen, dessen Sprachmodelle in vielen Redaktionen und Kommunikationsabteilungen im Einsatz sind, meiner eigenen eingeschlossen. Im Fall Bartz gegen Anthropic ging es nicht darum, ob das Training von Sprachmodellen an urheberrechtlich geschütztem Text grundsätzlich zulässig ist; der zuständige Richter William Alsup stufte das Training selbst durchaus als "fair use" ein. Beanstandet wurde etwas anderes: Anthropic hatte Millionen Bücher aus Piraterie-Datenbanken wie Library Genesis heruntergeladen, um sein Modell Claude zu trainieren. Am 20. Juli 2026 genehmigte Richterin Araceli Martínez-Olguín den Vergleich endgültig: 1,5 Milliarden US-Dollar, umgerechnet rund 3.000 Dollar pro betroffenem Werk bei etwa 500.000 Büchern, plus die Pflicht, die illegal beschafften Originaldateien zu vernichten.
Die Lehre daraus reicht über Anthropic hinaus. Wenn selbst ein Unternehmen, das Sicherheit und Verantwortung zu seinen zentralen Werten erklärt, bei der Datenbeschaffung derart daneben griff, sollte niemand annehmen, ein Sprachmodell wisse von sich aus, was rechtlich und inhaltlich sauber ist. Es produziert, wonach es trainiert wurde, mit allen Lücken und Altlasten, die darin stecken.
Wenn nicht einmal der Hersteller des Werkzeugs sauber gearbeitet hat, ist Vertrauen in das Werkzeug allein keine Strategie.
Was daraus für die eigene Praxis folgt
Für Redaktionen und Kommunikationsabteilungen bedeutet das zweierlei. Erstens: Einen KI-Detektor als Türsteher einzusetzen, der KI-Texte zuverlässig aussortiert, ist technisch keine solide Grundlage, insbesondere wenn im Team oder unter den Kunden Nicht-Muttersprachler schreiben, die dann systematisch falsch verdächtigt werden. Zweitens: Die eigentliche Absicherung ist nicht die Erkennung, sondern die Prüfung vor der Freigabe, unabhängig davon, was ein Prozentwert behauptet. Das deckt sich mit dem, was seit dem 2. August ohnehin gesetzlich verlangt wird, nur dass Gesetz und Praxis hier ausnahmsweise in dieselbe Richtung zeigen.
Ich habe meinen eigenen Test nicht gemacht, um KI-Detektoren zu blamieren, sondern weil ich vor der Behauptung, ein Prozentwert könne Textqualität messen, selbst skeptisch war und die Probe aufs Exempel wollte. Die Probe bestätigte die Skepsis. Wer sich das ähnlich fragt, findet eine ausführlichere Einordnung im Artikel zur Kennzeichnungspflicht und dem verbreiteten Irrtum vieler Spiegel-Pioneer-Redakteure; wie unterschiedlich Verschleierung und offene Kennzeichnung trotzdem am selben Problem scheitern können, zeigt der Fall Casdorff und Döpfner.
Nicht die Wahrscheinlichkeit einer Maschinen-Signatur entscheidet über die Qualität eines Textes, sondern die Frage, ob ein Mensch mit Fachwissen ihn geprüft hat und mit seinem Namen dafür einsteht. Genau diese Prüfung lässt sich nicht outsourcen, weder an ein Sprachmodell noch an dessen Gegenspieler, den Detektor.
Wer als Nächstes einen KI-Text zur Freigabe bekommt: Würden Sie ihm vertrauen, wenn der Detektor 30 Prozent anzeigt, aber niemand ihn gelesen hat? Und würden Sie ihn ablehnen, wenn der Detektor 89 Prozent zeigt, der Text aber von Ihrer besten Fachkraft stammt?
Häufige Fragen
Wenig zuverlässig. Eine Stanford-Studie fand bei Texten von Nicht-Muttersprachlern eine durchschnittliche Fehlerquote von 61 Prozent über sieben getestete Detektoren, fast 98 Prozent der Texte wurden von mindestens einem Tool fälschlich als KI-generiert markiert. Bei Texten von Muttersprachlern lag die Genauigkeit dagegen nahe hundert Prozent.
Die Transparenzpflichten aus Artikel 50 der EU-KI-Verordnung gelten seit dem 2. August 2026. Wer KI-generierte Inhalte veröffentlicht, muss dies offenlegen, mit einer eigenen Regelung für Deepfakes und synthetische Medien.
Anthropic hatte für das Training seiner KI-Modelle Millionen Bücher aus illegalen Piraterie-Datenbanken heruntergeladen. Nicht das KI-Training selbst wurde gerichtlich beanstandet, sondern die Art der Beschaffung. Der Vergleich über 1,5 Milliarden US-Dollar wurde am 20. Juli 2026 endgültig gerichtlich genehmigt.
Christian Gasche ist Journalist, Redenschreiber und Berater in Frankfurt am Main. Seit 1992 schreibt er für Unternehmen, Verbände und öffentliche Auftraggeber, seit 2002 unter eigenem Namen als SIGMA Communication. Heute richtet er Kommunikationsabteilungen darauf ein, KI in ihre redaktionellen Abläufe einzubauen, ohne die Verantwortung für das Ergebnis abzugeben. Mehr über Christian Gasche
Wie weit ist Ihr Haus beim Thema KI?
In den meisten Kommunikationsabteilungen arbeitet längst jemand mit KI, ohne dass festgelegt wäre, was damit das Haus verlassen darf. Im Erstgespräch klären wir, wo Sie heute stehen und welcher Schritt als nächster wirklich lohnt. Dreißig Minuten, kostenfrei, per Zoom, und ausdrücklich kein Verkaufsgespräch.