Neue EU-Regeln zur KI – Und was das für dich bedeutet

Zum August 2026 sind EU-weit neue Regeln zur Kennzeichnung von KI-generierten Inhalten und zur Nutzung von generativer KI in Kraft getreten. Auch wenn KI zur Erstellung origineller und urheberrechtlich geschützter Texte ohnehin nicht geeignet ist, nutzen trotzdem viele Autor*innen KI in ihrem Alltag – sei es als Brainstorming-Werkzeug, als Sparringpartner oder zur Erstellung ansprechender Social-Media-Beiträge. In diesem Blogbeitrag fasse ich zusammen, was der neue EU AI Act für Schriftstellende bedeutet, warum ich die Neuerungen für gut halte – und positioniere mich selbst zur Nutzung generativer KI.

Quellen

Zum Verfassen dieses Blogeintrags habe ich den großartigen Artikel von Katrin Nägele vom VFLL herbeigezogen.

https://lektorenverband.de/transparenzpflichten-eu-ai-act-lektorat/

Weitere Quellen und Querverweise sind an den entsprechenden Stellen als Links hinterlegt.

Kennzeichnung

Man soll ja nicht Wasser predigen und Wein trinken. Zur Strukturierung und Quellensuche zu diesem Beitrag habe ich das KI-Programm Perplexity genutzt. Der Text und alle darin vertretenden Meinungen sind jedoch gänzlich und allein meine – und so wird es auch immer bleiben. Auch in zukünftigen Blogposts werde ich kenntlich machen, ob und wenn ja, in welchem Rahmen generative KI in der Konzeption oder Erstellung zum Einsatz kommt.

EU AI Act – Was ändert sich für

Seit dem 2. August verpflichtet der neue EU AI Act zu einer sogenannten Transparenzpflicht. Das heißt, dass bestimmte KI-generierte Inhalte als solche kenntlich gemacht werden müssen – und zwar so, dass Nutzer*innen auf den ersten Blick erkennen, ob ein Bild oder ein Text mit einer KI generiert oder manipuliert wurde

Wichtig: Nur bei Texten, die dazu dienen, die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, und die keiner menschlichen Redaktion unterzogen wurden. Das können beispielweise automatisch generierte Nachrichten (z. B. Eilmeldungen) sein. Prüft ein Mensch den Text vor der Veröffentlichung und übernimmt Verantwortung für dessen sachliche Korrektheit, entfällt die Kennzeichnungspflicht.

Es gilt keine Pflicht für rein fiktionale, literarische oder private Texte. Romane, Gedichte, und persönliche Blogs ohne Informationsauftrag sind davon also nicht betroffen.

Schwierig gestaltet sich auch die Kennzeichnungspflicht KI-generierter Bilder („Deep Fakes“). Hier gilt die Faustregel, dass dann eine Kennzeichnungspflicht besteht, wenn die Bilder täuschend echt aussehen und einen informativen Zweck erfüllen. Eine stilisierte Figurenillustration wäre somit nicht kennzeichnungspflichtig, eine Illustration in einem Sach- oder Fachbuch, dessen Zweck primär informativ ist, jedoch schon.

Was bedeutet das konkret für Autor*innen?

Social-Media-Beiträge, die mit KI erstellt wurden und informieren (z. B. News, politische Statements), müssen gekennzeichnet werden. Das gleiche gilt für Newsletter, Blogs und journalistische Texte, die nicht noch einmal redaktionell geprüft wurden. Davon werden wohl die wenigsten Autor*innen betroffen sein. Bilder (Werbevideos oder generierte Bilder deiner Charaktere) müssen gekennzeichnet werden, wenn sie echten Personen nachempfunden sind oder täuschend echt aussehen. Da gerade Autor*innen im Selfpublishing vermehrt auf KI-generierte Inhalte zur Werbung setzen, um auch mit schmalen Budget ein großes Publikum zu erreichen, kann es hier schon strittig werden.

Es lohnt es sich, KI-generierte Posts und jede Verwendung von generativer KI klar als solche auszuzeichnen. Zum einen schafft das Vertrauen und Transparenz, zum anderen ist es gut möglich, dass die diesbezüglichen Regeln in der Zukunft noch einmal verschärft werden – sei es, um das Handwerk zu schützen (zum Beispiel bei Übersetzungen und Illustrationen), oder zur Einhaltung des Urheberrechts.

Gehen die Neuerungen weit genug?

Erst mal die guten Neuigkeiten: Die EU befasst sich endlich mit den Herausforderungen, vor die wir nicht nur im Alltag generell, sondern auch speziell in der Kreativbranche gestellt werden. Transparenz schafft Vertrauen. Leser*innen können besser einschätzen, woher Inhalte stammen, wenn KI-Texte und -Bilder klar als solche gekennzeichnet werden. So erleichtert es auch die „Auslese“, wenn man prinzipiell keine KI-generierten Inhalte lesen oder sehen möchte. Es ist der erste Schritt zu einem umfassenden Regelwerk zur KI-Nutzung und -Kennzeichnung innerhalb der EU. Man sollte die Signalwirkung nicht unterschätzen.

Doch das heißt nicht, dass es nicht noch einiges an Nachholbedarf gibt. Besonders kritisch sehe ich, dass es keine Regelung für fiktionale Literatur gibt. Der Buchmarkt wird seit Jahren mit KI-generierten Romanen geflutet. Auch im Lektorat bekommt man das zu spüren – was mich erst kürzlich dazu veranlasst hat, meine Kriterien für Aufträge zu überarbeiten (wie ihr nun hier nachlesen könnt).

Es stellen sich auch Fragen zur Durchsetzbarkeit: Wie wird kontrolliert, ob KI tatsächlich genutzt wurde? KI-Nutzung ist nicht zweifelsfrei technisch nachweisbar. Das haben hitzige Debatten in jüngster Zeit (etwa die Causa Shy Girl oder die Kontroverse um Autor Jerry Falade) gezeigt.

Auch halte ich es für fahrlässig, dass nicht jedes KI-generierte oder -manipulierte Bild als solches gekennzeichnet werden muss. Der EU-Rechtstext legt den Fokus ganz klar auf den Informationszweck – also die Eindämmung von Falschnachrichten oder bösartiger Bildmanipulation zur Beeinflussung der öffentlichen Meinung. Der Schutz wichtiger Wirtschaftszweige – das Handwerk der Illustrator*innen, Übersetzer*innen, Autor*innen und selbstverständlich auch Lektor*innen – wird dabei hintangestellt.

Da sind die Verlage teils schon weiter: Der Loewe-Verlag führte kürzlich ein No AI-Label ein.

Viele andere Verlage fordern bei der Manuskripteinreichung eine Offenlegung jeglicher KI-Nutzung (woran ich mich ebenfalls orientiere). Es ist jedoch meine Auffassung, dass nicht etwa die Bücher gekennzeichnet werden sollten, die keine KI verwenden – sondern eben jene, die es tun.

Der Act regelt zwar im engeren Rahmen Transparenz, hat aber keine Antworten auf die großen Fragen zum Urheberrecht oder den ethischen und ökologischen Folgen der KI-Nutzung.

KI-generierte Texte sind nicht urheberrechtlich geschützt

Wer Inhaber*in der Rechte an KI-generierten Textpassagen ist, ist derzeit nach wie vor ungeklärt. Klar ist, dass KI selbst keine Urheberin sein kann. Auch von Autor*innen erstellte Prompts erfüllen nicht das Mindestmaß einer originären künstlerischen Leistung und sind dadurch nicht vom Urheberrecht geschützt. Es deutet alles darauf hin, dass KI-generierte Inhalte nicht vom Urheberrecht geschützt und somit gemeinfrei sind.

Was das für KI-generierte Bücher und deren Vervielfältigung bedeutet, kann man sich nun denken – und das erklärt auch, warum schon beim kleinsten Verdacht der Nutzung generativer KI ein Vertrag aufgekündigt werden kann. Die gängigen öffentlich zugänglichen KI-Modelle sind oft anhand von Daten trainiert worden, für deren Verwendung keine Genehmigung vorlag – das zeigte jüngst ein medienträchtiges Verfahren der GEMA gegen ChatGPT-Betreiber OpenAI. Als Autor*in oder Verlag haftet man, falls Teile des KI-erstellten Texts als Plagiat gewertet werden können. Ein weiteres Argument dafür, gar nicht erst zur KI zu greifen.

Meine Position

Es sollte wohl niemanden überraschen, dass ich der Nutzung generativer KI zur Erstellung oder Modifikation von Texten sehr kritisch gegenüberstehe.

Während ich persönlich KI zur Strukturierung kurzer Texte (wie etwa diesem Blogbeitrag) nutze und als Recherchewerkzeug begrüße, ziehe ich eine Grenze, sobald es an den Text selbst geht. Die Algorithmen generativer Large Language Models texten nach Wahrscheinlichkeit, was der Kreativität widerspricht – wer mal ein KI-„Buch“ gelesen hat, weiß, was ich meine. Da häufen sich wiederkehrende Formulierungen und Begriffe, leicht erahnbare Satzstrukturen, Spannungsbögen schafft der Algorithmus auch nicht. Besonders kritisch sehe ich die urheberrechtlichen Aspekte. Die Musikbranche erlebt gerade eine echte Krise durch, nun, man muss es so nennen: Diebstahl urheberrechtlich geschützter Werke. Davon sind unzählige Musiker*innen betroffen, die ich seit Jahren liebe und unterstütze.

Selbstverständlich sieht es in der Literatur nicht anders aus.

KI-Texte sind aufwendiger zu lektorieren, sie sind bei Weitem nicht so unterhaltsam zu lesen, wie echte menschliche Manuskripte – und um ganz ehrlich zu sein, habe ich sie satt. Ich begrüße die Neuerungen durch den EU AI Act, aber sehe es als meine professionelle Pflicht an, eine weitere Verschärfung der Kennzeichnungspflicht und Gesetze zum Schutz des Urheberrechts und unseres Handwerks fordern.

Wie seht ihr es? Erkennt ihr im Alltag KI-Texte gleich, oder habt ihr Schwierigkeiten, sie von menschlichen Texten zu unterscheiden? Wie steht ihr zur Einführung eines No-AI-Labels, wie der Loewe-Verlag es bereits getan hat?