200 Wörter Mindestlänge: Wie unsichtbare Textmarkierungen Chatbots entlarven
Mindestens 200 bis 300 Wörter muss ein Fließtext umfassen, damit mathematisch verborgene Markierungen eine künstliche Urheberschaft verlässlich belegen können. Bei kürzeren Sätzen reicht die statistische Signatur schlicht nicht aus, um die gezielten Eingriffe in die Formulierungswahl zweifelsfrei nachzuweisen.
Bildquelle: Levart_Photographer auf Unsplash
Mindestens 200 bis 300 Wörter muss ein Fließtext umfassen, damit mathematisch verborgene Markierungen eine künstliche Urheberschaft verlässlich belegen können. Bei kürzeren Sätzen reicht die statistische Signatur schlicht nicht aus, um die gezielten Eingriffe in die Formulierungswahl zweifelsfrei nachzuweisen. Technisch greift das Verfahren unmittelbar in den Kern der Texterzeugung ein: Während Sprachmodelle normalerweise bei jedem Schritt ermitteln, welche Folgebegriffe rechnerisch plausibel sind, und daraus eine Auswahl treffen, wird dieser Auswahlprozess durch einen internen Steuerungsschlüssel minimal manipuliert.
Statistische Muster in der maschinellen Sprachausgabe
Entwickler nutzen bei diesem Mechanismus eine grundlegende Eigenheit natürlicher Sprache aus. Häufig existieren für denselben Inhalt gleichwertige Ausdrucksweisen, etwa die Formulierung „Ich gehe heute ins Kino“ im Vergleich zu „Ich möchte heute ins Kino gehen“. Genau in diesen feinen Nuancen setzt die Steuerung an: Bestimmte Wortvarianten, die den Sinngehalt unangetastet lassen, erhalten einen winzigen statistischen Vorteil, während gleichwertige Synonyme geringfügig benachteiligt werden. Über den gesamten Text hinweg entsteht auf diese Weise ein spezifisches Häufigkeitsmuster, das beim bloßen Lesen unsichtbar bleibt.
Um diese Markierung wirksam zu schützen, wird die Anpassung für jedes Wort fortlaufend neu berechnet. Weder für menschliche Prüfer noch für automatisierte Analysen ist das Muster ohne Zusatzwissen erkennbar. Erst der passende mathematische Schlüssel offenbart die gezielte Verzerrung der Wortwahrscheinlichkeiten.
„Wenn es jeder nachvollziehen kann, kann er das Wasserzeichen entfernen, kann es sozusagen rückgängig machen, und er kann auch ein Wasserzeichen erzeugen“
So begründet Waldemar Berchtold, Gruppenleiter für Multimedia-Sicherheit am Fraunhofer-Institut für Sichere Informationstechnologie in Darmstadt, die Notwendigkeit strikter Geheimhaltung dieses Schlüssels.
Allgegenwärtige Automatisierung im Netz
Dass verlässliche Identifikationsmethoden gebraucht werden, zeigt die alltägliche Mediennutzung. Längst begegnen Nutzer im digitalen Alltag synthetischen Texten, ohne deren maschinellen Ursprung zu bemerken:
Akademischer und beruflicher Bereich: Synthetisch verfasste Hausarbeiten an Universitäten sowie standardisierte Bewerbungsschreiben.
Handel und E-Commerce: Automatisch erstellte Produktbeschreibungen und zunehmend auch mutmaßlich KI-generierte Kinderbücher auf Verkaufsplattformen wie Amazon.
Öffentliche Meinungsbildung: Vollautomatisch formulierte politische Stellungnahmen in Foren und Netzwerken.
Die Fülle computergenerierter Fälschungen stellt Kontrollinstanzen vor erhebliche Probleme. Verifikationsexpertin Alice Echtermann betont, dass künstlich erzeugte Fälschungen mittlerweile überall im Netz vorkommen. Für Verifikationsteams besteht die größte Schwierigkeit darin, aus der schieren Masse viraler Falschbehauptungen auf Online-Plattformen gesellschaftlich relevante Themen auszuwählen und diese rechtzeitig fundiert zu widerlegen.
Gesetzlicher Rahmen durch den EU AI Act
Zusätzliche Dynamik erhält die Kennzeichnung durch die europäische Gesetzgebung. Seit Anfang August gelten Vorschriften des europäischen Gesetzes für künstliche Intelligenz (EU AI Act), die maschinenlesbare Markierungen für künstlich erzeugte Inhalte zwingend vorschreiben. Die Branche reagiert schrittweise auf diese Vorgaben:
OpenAI: Hat entsprechende Wasserzeichen für seinen Textgenerator ChatGPT offiziell angekündigt.
Anthropic: Bereitet unsichtbare Wasserzeichen für Antworten des Sprachmodells Claude vor.
Google: Verwendet entsprechende Technologien für KI-Inhalte bereits teilweise oder hat diese angekündigt.
Technische Grenzen und ökonomisches Eigeninteresse
Trotz der ausgefeilten Mathematik stößt das Verfahren an Grenzen, wenn Nutzer das Endprodukt nachträglich bearbeiten. Jeder eigenständige Eingriff schwächt die statistische Signatur ab.
„Weil ich auch die Ausgabe verändere und meinen Stil wieder reinbringe, und damit quasi auch die Spur des KI-Generators – des Wasserzeichens – verwische“
Laut Berchtold liefert eine nachträgliche Überprüfung daher niemals absolute Gewissheit, sondern lediglich relative Wahrscheinlichkeiten. Detektoren, die künftig auch für Verbraucher und Institutionen verfügbar sein sollen, geben das Ergebnis voraussichtlich in Werten wie beispielsweise einer Wahrscheinlichkeit von 80 Prozent aus.
Schutz vor verunreinigten Trainingsdaten
Gleichzeitig verfolgen Anbieter mit den Nachweissystemen handfeste eigene Interessen, die über gesetzliche Vorgaben hinausgehen. Um fortlaufend leistungsfähige Nachfolgemodelle entwickeln zu können, müssen Trainingsdaten von hoher Qualität sein.
„Wenn Sie Sprachmodellhersteller sind, dann müssen Sie diese Sprachmodelle permanent mit guten Texten füllen. Es ist im Interesse der Sprachmodellhersteller, ihre eigenen Texte zu erkennen. Diesen Nutzen, den übersieht man oft.“
Die Trennung zwischen authentischen Texten und eigenen synthetischen Erzeugnissen sichert somit die Qualität künftiger Modellgenerationen ab.
