Der Online-Riese Amazon sieht sich in seinem einstigen Kerngeschäft mit einem wachsenden Problem konfrontiert: Eine Welle von betrügerischen, durch künstliche Intelligenz (KI) generierten Büchern überschwemmt den Buchmarkt. Diese Bücher imitieren oder fassen echte Werke zusammen, was ernsthafte Bedenken hinsichtlich des Urheberrechts und der Qualität des gesamten Angebots aufwirft. Und natürlich auch hinsichtlich Amazon selbst, denn die Situation ist seit Jahren bekannt, hat sich aber durch die Dynamik der letzten Monate nur noch verschärft.
Konkretisiert wurde das Phänomen unter anderem durch die Erfahrungen der KI-Forscherin Melanie Mitchell, die entdeckte, dass neben ihrem Buch "Artificial Intelligence: A Guide for Thinking Humans" eine kürzere, offenbar von KI generierte Version mit gleichem Titel bei Amazon verkauft wurde. Die Imitation war sprachlich holprig verfasst und schien Mitchells Ideen teilweise nicht korrekt wiederzugeben.
Ein Problem, das seit Jahren wächst
Wie "Wired" berichtet, ist diese Situation kein Einzelfall. Andere Autoren wie die Informatikerin Fei-Fei Li erlebten ähnliche Situationen. Einige dieser Sammelwerke sind zwar als solche gekennzeichnet, doch auch sie scheinen größtenteils von KI generiert zu sein – und bieten keinen nennenswerten Mehrwert. Die Firma Reality Defender bestätigte gegenüber dem Magazin, dass viele dieser Bücher mit an Sicherheit grenzender Wahrscheinlichkeit künstlich generiert wurden.
Das Problem ist nicht neu. Bereits 2019 berichtete das "Wall Street Journal" über eine Überflutung von Amazon mit Buchzusammenfassungen, die Interessenten in die Irre führen. Mit dem Aufkommen und der Weiterentwicklung generativer KI-Technologien scheint sich diese Praxis jedoch noch zu verstärken. Autorinnen wie Jane Ward und Sarah Stankorb haben ähnliche Erfahrungen gemacht, was die Tragweite des Problems unterstreicht.
Kennzeichnung (noch) nicht geplant
Eine einfache Möglichkeit, den Wildwuchs in den Griff zu bekommen, wäre eine klare Kennzeichnung KI-generierter Inhalte. Doch davon sieht der weltgrößte Buchhändler bislang ab. Stattdessen wurden im vergangenen Jahr lediglich Maßnahmen ergriffen, die Anzahl der Bücher, die ein Autor selbst veröffentlichen darf, zu begrenzen und eine mehr oder weniger freiwillige Richtlinie einzuführen, die Autoren verpflichtet, offenzulegen, ob ein Werk KI-generiert ist oder nicht.
Die Hauptgründe, die gegen eine Kennzeichnung von KI-generierten Inhalten in Büchern sprechen, sind Bedenken hinsichtlich der Genauigkeit und Zuverlässigkeit von Erkennungswerkzeugen. Bislang hat die Forschung gezeigt, dass diese in praktischen Szenarien oft unzuverlässig sind und manchmal sogar voreingenommen gegenüber Autorinnen und Autoren sein können.
Eine Grauzone
Rechtlich gesehen stellt die Situation eine Grauzone dar. Während einige Urheberrechtsexperten argumentieren, dass Zusammenfassungen legal sein können, solange es sich nicht um wörtliche Plagiate handelt, stellen andere Experten die Legalität dieser Praktiken infrage. Obwohl Amazon das Mitchell-Imitat mittlerweile entfernt hat, gibt es keine Anzeichen dafür, dass das Unternehmen aktiv gegen diese Welle von Zusammenfassungen vorgeht. Ähnlich verhielt es sich auch im Fall von Jane Friedman: Werke unter ihrem Namen, die sie nicht verfasst hatte, wurden von Amazon erst entfernt, nachdem sie damit an die Öffentlichkeit gegangen war.
Das Phänomen wirft aber nicht nur rechtliche Fragen auf, sondern beleuchtet auch die ethischen und moralischen Aspekte des Einsatzes von KI bei der Erstellung von Inhalten. Autorinnen und Autoren wie Mitchell sehen sich mit der neuen Realität konfrontiert, dass ihre jahrelange Schreib- und Forschungsarbeit durch KI-gestützte Plagiate potenziell entwertet wird. Die Verlagsbranche scheint ebenso unsicher, wie sie mit dieser neuen Herausforderung umgehen soll. Eine Lösung ist aber dringend notwendig – vor allem für die Autoren, aber auch, um die Leserschaft nicht in die Irre zu führen. (red, 10.1.2024)