Die Jagd ist eröffnet. Seitdem KI-Detektionstools frei im Internet verfügbar sind, fühlen sich Rechercheure und selbsternannte «Plagiatsjäger» berufen, KI-Texte aufzuspüren. Die Motive? Nicht immer klar!
Zuerst traf es die Autorin Mia Ballard: Nachdem im Netz Gerüchte über mögliche KI-Anleihen in ihrem 2025 erschienenen Roman «Shy Girl» kursierten, prüfte die «New York Times» im März den Verdacht und wies der Schriftstellerin auffällige Stilmuster nach. Dann musste die Zeitung selbst die Zusammenarbeit mit einem freien Buchkritiker beenden, nachdem sich herausgestellt hatte, dass dessen Kolumne höchstwahrscheinlich mithilfe von KI geschrieben worden war.
Der trinidadische Autor Jamir Nazir, der in diesem Jahr den renommierten Commonwealth Short Story Prize für die karibische Region gewann, wurde ebenfalls der Trickserei bezichtigt: Seine Kurzgeschichte «The Serpent in the Grove» soll, so der Vorwurf, in Teilen von einem Chatbot geschrieben worden sein.
Prominente im deutschsprachigen Raum
Auch im deutschsprachigen Raum gibt es inzwischen einige prominente Fälle: Erst wurde bekannt, dass der thüringische Ministerpräsident Mario Voigt einen Gastbeitrag in der «FAZ» sowie eine Rede zum Holocaust-Gedenken von einer KI prompten liess. Dann wurde der langjährige «Tagesspiegel»-Chefredakteur und Herausgeber Stephan-Andreas Casdorff von seinen Aufgaben entbunden, weil er Kommentare mit KI geschrieben hatte. Auch der Deutschland-Chef der «Neuen Zürcher Zeitung», Florian Eder, geriet unter KI-Verdacht. Und jüngst erhob der «Tages-Anzeiger» Vorwürfe gegen «Blick»-Chefredaktor Rolf Cavalli.
Die Analysesoftware Pangram, die bei der Prüfung von Texten zum Einsatz kommt, ist schon jetzt so etwas wie der Gegenspieler von ChatGPT. Das Tool, das von ehemaligen Tesla- und Google-Ingenieuren entwickelt und mit rund einer Million Dokumenten trainiert wurde, zerlegt Texte in ihre Einzelteile und sucht nach sprachstatistischen Mustern wie Satzbau oder Wortwahl, die bei KI-Texten häufiger vorkommen. Es errechnet auf dieser Grundlage eine Wahrscheinlichkeit, mit der ein Text KI-generiert ist. Bei Ballards Buch «Shy Girl» waren es etwa 78 Prozent. Nur: Was sagt so eine Zahl aus? Was beweist sie? Und ist es ein Skandal, wenn ein Buch teilweise mit KI geschrieben wurde?
Der Kulturbetrieb, der vor allem in der Verlagswelt noch immer ein Manufakturbetrieb ist, ringt um Antworten. Im Wochentakt kommen neue Fälle ans Tageslicht, und jedes Mal reagiert das Publikum mit Empörung. Als hätte es Ghostwriter nie gegeben. Jeder Text, sei es ein neues Buch oder ein Kommentar in der Zeitung, steht unter Generalverdacht.
Die Verlässlichkeit der KI-Detektoren ist schwach
Allein, die Verlässlichkeit dieser KI-Detektoren ist schwach. Die Tools produzieren reihenweise Falschpositive. So ergab ein Test mit ZeroGPT, dass Auszüge aus der amerikanischen Verfassung zu 96 Prozent KI-generiert sind. Es darf als historisch gesichert gelten, dass die Gründerväter der Vereinigten Staaten um George Washington, die 1787 auf der Philadelphia Convention die Verfassung unterzeichneten, keine KI nutzten und auch keine Zeitreisenden waren.
Um den bizarren Fehler zu verstehen, muss man unter die Motorhaube der KI schauen: Grosse Sprachmodelle (LLMs) führen eine Art Plausibilitätscheck für Wortfolgen durch. Die sogenannte Perplexity misst, wie stark ein Text von Trainingsdaten abweicht und wie «überraschend» die Sprache ist. Angenommen, ein Modell lernt, dass die Satzkonstruktion «Der Ball ist» mit dem Adjektiv «rund» vervollständigt wird, wird es über die Formulierung «Der Ball ist eckig» überrascht sein. Je höher der Perplexity-Wert, desto unvorhersagbarer ein Text und desto wahrscheinlicher stammt er von einem Menschen.
Der Grund, warum der KI-Detektor bei der US-Verfassung anschlug, ist nicht, dass die Gründerväter der USA besonders floskelhaft und erwartbar formulierten, sondern, dass zahlreiche KI-Modelle mit diesem Dokument gefüttert wurden und am laufenden Band ähnliche Texte ausspuckten. Die Folge: Wenn die KI mit dem Ursprungstext konfrontiert wird, ist die Abweichung so gering, dass der Computer das Original nicht mehr von den Kopien bzw. Ableitungen unterscheiden kann. Das zeigt die Absurdität der Prüfverfahren – und wie sich die Bewertungsmassstäbe von ästhetischen zu rein mathematischen Kriterien verschieben. Es geht nur darum, einen bestimmten Zahlenwert zu erreichen.
Der «Humanizer» macht einen Text menschlich
Die Metrisierung der Textproduktion führt in der Praxis dazu, dass Textgattungen wie Gesetzestexte oder Produktbeschreibungen, die standardisiert und formelhaft sind, unter pauschalem KI-Verdacht stehen, auch wenn sie von Menschenhand geschrieben wurden. Man kann nicht mehr beweisen, dass man der menschliche Autor einer Meldung ist, weil man ja, um die Struktur zu bewahren, mit denselben Textbausteinen wie die Maschine operieren muss. Ein Dilemma. Man muss folglich, um den KI-Verdacht von sich zu weisen, Regeln um ihrer selbst willen brechen. Auch das geht, welch Ironie, maschinell.
So finden sich im Internet mittlerweile eine Reihe sogenannter «humanizer», spezielle Softwaretools, die generische KI-Texte so umschreiben, dass diese natürlicher klingen und KI-Detektoren umgehen. Die Werkzeuge stellen den Satzbau um, ersetzen Wörter und entfernen Redundanzen. Man schlägt die KI also mit ihren eigenen Waffen. Das Problem ist, dass dieser Bruch sprachstatistischer Muster seinerseits regelhaft ist und möglicherweise erkannt werden kann. So entsteht ein Wettrüsten zwischen denen, die KI-generierte Texte aufpolieren, und denen, die sie mithilfe von KI enttarnen wollen.
Auf der anderen Seite sickern durch den Gebrauch von Sprachmodellen Komplexitätsfloskeln und Vokabeln wie «to delve» (zu Deutsch: «eintauchen in etwas“) oder «meticulous» («akribisch») in die geschriebene und gesprochene Sprache ein, was zur Folge hat, dass der Mensch immer mehr wie eine Maschine klingt. Angenommen, ein Journalist verfasst einen Konferenzbericht und zitiert darin einen Forscher mit dem Wort «eintauchen», ist die Wahrscheinlichkeit gross, dass der Text von einem Detektionstool als – zumindest in Teilen – KI-generiert geflaggt wird. Was aber sagt ein solches Urteil aus? Dass ein Mensch, der einen menschlichen Sprechroboter zu Wort kommen lässt, selbst wie eine Maschine schreibt?
Ab wann besteht ein Glaubwürdigkeitsproblem?
Die Gefahr besteht darin, dass die Software zu einer Kontrollinstanz dessen wird, was legitime Kunst ist. Denn ein Text, dem das Label «90 Prozent KI-generiert» anhaftet, hat ein Glaubwürdigkeitsproblem. Der britische Verlag Faber versieht seit vergangenem Jahr Bücher mit einem «human written»-Aufkleber: garantiert «menschengeschrieben». Aber kann der Leser solchen Gütesiegeln vertrauen? Oder ist es ein Etikettenschwindel?
Die Verlage scheinen noch immer einem romantisierten Autorenideal anzuhängen, als wäre der Mensch mit seinen Gedanken allein in der Natur. Die Vorstellung eines Google- oder ChatGPT-befreiten Schreibens ist jedoch eine Illusion. Natürlich nutzen Autoren solche Werkzeuge. Ist das verwerflich?
Der Roman «Shy Girl» hat überwiegend positive Rezensionen erhalten. Der Literaturbetrieb muss grosse Sprachmodelle genauso wenig fürchten wie die Schreibmaschine. Denn was guter Stil ist, kann am Ende nur der Mensch beurteilen.
Kommentare
Bitte beachten Sie unsere Richtlinien, die Kommentare werden von uns moderiert.
Zu diesem Thema wurden noch keine Kommentare geschrieben.