KI-generierte Inhalte kennzeichnen: Pflichten und sinnvolle Transparenz

Das Wichtigste in Kürze: Was der EU AI Act ab August 2026 vorschreibt, welche Inhalte betroffen sind, wie du Prüfung dokumentierst.

Ein Marketing-Team lässt Produktbeschreibungen von einem Sprachmodell entwerfen, ein Blogartikel entsteht mit KI-Unterstützung, ein Bild für die Kampagne stammt aus einem Bildgenerator. Die Frage, die danach im Raum steht, ist selten technisch, sondern organisatorisch: Muss das gekennzeichnet werden? Und wenn ja, wie, wo und mit welchem Text?

Die ehrliche Antwort ist zweigeteilt. Es gibt eine gesetzliche Pflicht, die ab August 2026 für bestimmte Fälle verbindlich wird. Und es gibt einen deutlich größeren Bereich, in dem Kennzeichnung freiwillig ist, aber aus Vertrauens- und Suchmaschinen-Gründen trotzdem sinnvoll. Wer beides vermischt, kennzeichnet entweder zu viel (und wirkt bürokratisch) oder zu wenig (und läuft ins Risiko).

Dieser Artikel richtet sich an Geschäftsführung, Marketing, Operations und IT in KMU, die KI-generierte Texte, Bilder oder Chat-Interaktionen im Kundenkontakt einsetzen. Er klärt, was Pflicht ist, was sinnvoll ist und wie sich beides praktisch umsetzen lässt. Er ist Teil unseres Themen-Clusters KI-Governance und behandelt speziell die Kennzeichnungsfrage. Die umfassendere Einordnung des EU AI Act findest du im entsprechenden Cluster-Artikel.

Begriffe und Abgrenzung

4 Begriffe gehen oft durcheinander:

• Kennzeichnung (Labelling) ist die sichtbare oder maschinenlesbare Angabe, dass ein Inhalt von KI stammt. Das kann ein Hinweistext, ein Symbol, ein Wasserzeichen oder ein Metadaten-Tag sein.

• Transparenzpflicht ist die gesetzliche Verpflichtung aus Artikel 50 der EU-KI-Verordnung, bestimmte Fälle zu kennzeichnen. Sie betrifft nicht jeden KI-generierten Inhalt, sondern eine klar umrissene Teilmenge.

• Deepfake ist laut Artikel 50 ein KI-erzeugter oder manipulierter Bild-, Audio- oder Videoinhalt, der einer realen Person, einem Ort oder Ereignis täuschend ähnlich ist. Er erweckt fälschlich den Eindruck, es handle sich um echtes, unverändertes Material.

• Synthetischer Inhalt ist der Oberbegriff für jeden von KI erzeugten Audio-, Bild-, Video- oder Textinhalt. Ob er täuschend echt wirkt oder als KI-Werk erkennbar bleibt, spielt dabei keine Rolle.

Wichtig für die Einordnung: Nicht jeder KI-Inhalt ist ein Deepfake. Und nicht jeder muss gekennzeichnet werden. Ein internes Protokoll, das ein Sprachmodell zusammenfasst, ist rechtlich unproblematisch. Ein KI-Bild eines Politikers in einer erfundenen Situation ist ein Deepfake. Hier ist die Offenlegung Pflicht. Dazwischen liegt ein großer Graubereich, in dem Unternehmen selbst entscheiden, aus Vertrauensgründen, nicht aus gesetzlichem Zwang.

Welche Regeln gelten aktuell?

Der zentrale Rechtsrahmen ist Artikel 50 der Verordnung (EU) 2024/1689. Besser bekannt ist sie als AI Act. Er verpflichtet 4 Gruppen zu unterschiedlichen Offenlegungen:

Anbieter von KI-Systemen, die direkt mit Menschen interagieren, müssen sicherstellen, dass diese Personen von der KI wissen. Klassisch betrifft das Chatbots und Sprachassistenten im Kundenkontakt. Eine Ausnahme gilt, wenn die KI-Nutzung für eine durchschnittlich informierte, aufmerksame Person ohnehin offensichtlich ist. Auch bestimmte, gesetzlich privilegierte Strafverfolgungssysteme sind ausgenommen.

Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen die Ausgaben maschinenlesbar kennzeichnen. Die Inhalte müssen als künstlich erzeugt oder manipuliert erkennbar sein. Ausgenommen sind assistive Funktionen ohne wesentliche Änderung der Eingabedaten. Ein Rechtschreib-Tool fällt also nicht darunter, ein Bildgenerator schon.

Betreiber, die mit einem KI-System Deepfakes erzeugen oder manipulieren, müssen offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde. Bei offensichtlich künstlerischen, satirischen oder fiktionalen Werken darf die Offenlegung den Werkgenuss schonen. Verzichtbar ist sie dadurch aber nicht.

Betreiber, die KI-generierte oder KI-manipulierte Texte zu Angelegenheiten von öffentlichem Interesse veröffentlichen, müssen dies offenlegen. Die Ausnahme: Der Inhalt wurde redaktionell kontrolliert. Eine natürliche oder juristische Person übernimmt dabei die redaktionelle Verantwortung. Genau diese Ausnahme ist für Unternehmensblogs und Fachartikel der praktisch wichtigste Punkt. Wer KI-Entwürfe prüft, bearbeitet und die Verantwortung übernimmt, fällt in der Regel aus der Pflicht heraus.

Ergänzend arbeitet die EU-Kommission seit Juni 2026 mit einem freiwilligen Code of Practice. Er übersetzt die abstrakten Pflichten in technische Praxis, etwa mit Empfehlungen zu maschinenlesbaren Markierungen und zur Deepfake-Kennzeichnung. Der Kodex ist freiwillig. Der Kommission gilt er aber als geeignetes Mittel, um die Pflicht aus Artikel 50 nachzuweisen.

Welche Inhalte sind betroffen?

In der Praxis lassen sich 4 Situationen unterscheiden, in denen die Pflicht überhaupt relevant wird:

1. Chat- und Sprachinteraktion mit Kund:innen. Ein KI-gestützter Support-Chat, ein Voicebot am Telefon. Betroffen, außer die KI-Nutzung ist ohnehin unübersehbar.

2. KI-generierte Bilder, Audio- und Videoinhalte allgemein. Die technische Kennzeichnungspflicht trifft die Anbieter der Systeme, also meist die Software-Hersteller. Für Betreiber wird es erst bei Deepfakes im engeren Sinn verpflichtend.

3. Deepfakes. Täuschend echte Darstellungen realer Personen, Orte oder Ereignisse, etwa ein KI-generiertes „Video-Statement“ einer Führungskraft, das so nie stattgefunden hat. Die Offenlegung ist hier immer Pflicht, mit den genannten Ausnahmen für Kunst und Satire.

4. Öffentlichkeitsrelevante Texte. Blogartikel, Pressemitteilungen, Meinungsbeiträge, die KI-generiert oder KI-überarbeitet sind und öffentliche Angelegenheiten betreffen. Offenlegung ist Pflicht, außer bei redaktioneller Kontrolle mit Verantwortung.

Ausdrücklich nicht von Artikel 50 erfasst sind 3 Fälle. Erstens rein interne Nutzung, etwa Protokolle, Entwürfe und Analysen ohne Veröffentlichung, zweitens assistive Werkzeuge ohne wesentliche inhaltliche Veränderung, etwa Rechtschreibprüfung oder Übersetzungshilfen in normaler redaktioneller Arbeit. Drittens Produkttexte oder Marketinginhalte ohne Bezug zu Themen von öffentlichem Interesse. Freiwillige Transparenz kann hier aus Vertrauensgründen trotzdem sinnvoll sein, siehe unten.

Welche Fristen gelten?

Der 2. August 2026 ist der zentrale Stichtag. An diesem Datum wird der überwiegende Teil der AI-Act-Regeln anwendbar, darunter auch Artikel 50. Zur Einordnung im Gesamtkontext: Seit dem 2. Februar 2025 gelten verbotene Praktiken und die KI-Kompetenzpflicht (Artikel 4). Seit dem 2. August 2025 gelten zudem die Regeln für Modelle mit allgemeinem Verwendungszweck. Ab dem 2. August 2026 folgen dann Transparenzpflichten und weite Teile der Hochrisiko-Regeln. Für Letztere gelten Übergangsfristen bis 2027.

Gilt eine Übergangsregelung für Bestandssysteme, die schon vor August 2026 im Einsatz waren? Kurz: unklar. Dazu konnte ich in den offiziellen Primärquellen (Regelungstext, EU-Kommissions-FAQ) keine gesicherte Aussage finden. Verschiedene Kanzlei- und Beratungsseiten diskutieren eine solche Kulanzregelung im Zusammenhang mit einem „AI Omnibus“-Vorschlag der Kommission. Dieser Stand ist zum Zeitpunkt der Recherche (Juli 2026) politisch in Bewegung und nicht gesichert.

Für die Praxis heißt das: Wer bereits KI-Inhalte veröffentlicht, sollte nicht auf eine Übergangsfrist warten. Bereite die Kennzeichnung früh vor und prüfe die Rechtslage vor dem Stichtag noch einmal, im Zweifel mit Rechtsberatung.

Der freiwillige Code of Practice wurde im Juni 2026 veröffentlicht. Er dient bereits jetzt als Orientierung, wie eine rechtskonforme Kennzeichnung technisch aussehen kann, auch wenn die Pflicht erst am Stichtag greift.

Was ist technisch machbar?

3 Ansätze sind etabliert. Ihre Reife hängt vom Inhaltstyp ab:

Sichtbare Hinweise. Ein Text, ein Symbol oder ein Wasserzeichen im Bild, ein gesprochener Hinweis am Anfang eines Voicebot-Gesprächs. Sie sind am einfachsten umzusetzen, aber auch am leichtesten zu entfernen oder zu übersehen. Allein sind sie deshalb oft nicht robust genug. Die Verordnung verlangt „wirksame, interoperable, robuste und zuverlässige“ Lösungen.

Maschinenlesbare Metadaten. Standards wie C2PA Content Credentials oder IPTC-Felder für KI-generierte Bilder betten Angaben zur Herkunft direkt in die Bilddatei ein, für Bilder ist das heute der am weitesten entwickelte Ansatz. Suchmaschinen wie Google nutzen solche Metadaten bereits, um KI-generierte Produktbilder einzuordnen. Für Text und Audio sind maschinenlesbare Wasserzeichen technisch möglich, aber deutlich weniger robust gegen einfache Bearbeitung als bildbasierte Verfahren.

Kombination aus beidem. Für die meisten KMU ist ein sichtbarer Hinweis plus korrekt gesetzte Metadaten der pragmatische Standard, wo das Tool das unterstützt. Das ist nicht die anspruchsvollste Lösung, aber eine nachvollziehbare und mit vertretbarem Aufwand umsetzbare.

Wichtig: Die Verordnung schreibt keine bestimmte Technologie vor. Sie verlangt Wirksamkeit unter Berücksichtigung von Machbarkeit, Inhaltstyp, Kosten und Stand der Technik. Das ist bewusst technologieoffen formuliert. Für Unternehmen heißt das: Es gibt keine einzelne „richtige“ Lösung, sondern eine begründete, dem eigenen Risiko angemessene Wahl.

Wie dokumentiert man menschliche Prüfung?

Die praktisch wichtigste Weichenstellung ist die Ausnahme für redaktionelle Kontrolle bei Texten zu öffentlichen Angelegenheiten (Artikel 50). Wer einen KI-Entwurf substanziell prüft, bearbeitet und die Verantwortung übernimmt, muss den Text nicht als KI-generiert kennzeichnen. Diese Ausnahme greift aber nur, wenn die Prüfung echt ist. Eine reine Lese-Freigabe ohne Bearbeitung? Das reicht nach den vorliegenden Erläuterungen nicht.

Für die Dokumentation empfehle ich einen einfachen Freigabevermerk pro Inhalt, keine Compliance-Akte. 4 Angaben reichen:

• Wer hat den Entwurf erstellt, Person oder Tool/Modell, mit Datum.
• Wer hat inhaltlich geprüft, Name, mit kurzer Notiz, was verändert oder bestätigt wurde (nicht nur „gelesen“).
• Wer trägt die redaktionelle Verantwortung, eine benannte Person oder Rolle, die für den veröffentlichten Inhalt einsteht.
• Freigabedatum, als Nachweis, dass die Prüfung vor Veröffentlichung stattfand.

In meiner eigenen Arbeit an Website-Texten halte ich das so: KI-Entwürfe sind ein Ausgangspunkt, nicht das Endprodukt. Jeder veröffentlichte Text durchläuft eine inhaltliche Prüfung. Fakten, Zahlen und Aussagen werden gegen Quellen abgeglichen, erst danach steht mein Name darunter. Das ist kein Trick, um eine Pflicht zu umgehen. Es ist die Arbeitsweise, die auch ohne AI Act sinnvoll wäre: Für jeden veröffentlichten Inhalt trägt am Ende ein Mensch die Verantwortung.

Umsetzung: Vorgehen in der Praxis

Ein realistisches Vorgehen für KMU gliedert sich in 4 Schritte:

1. Inventur. Welche KI-generierten oder KI-unterstützten Inhalte gibt es aktuell, Website-Texte, Bilder, Chatbots, Marketingmaterial, Social-Media-Beiträge? Ohne diese Bestandsaufnahme lässt sich keine der vier Fallgruppen aus Artikel 50 sauber zuordnen.

2. Einordnung pro Inhaltstyp. Für jeden Inhaltstyp: Fällt er unter eine der vier Pflichtgruppen (Chat-Interaktion, synthetische Medien allgemein, Deepfake, öffentlichkeitsrelevanter Text)? Greift eine Ausnahme, insbesondere die redaktionelle Kontrolle? Die Risikomatrix im nächsten Abschnitt bildet diese Einordnung als Vorlage ab.

3. Prozess statt Einzelfallentscheidung. Statt jeden Inhalt neu zu diskutieren, lohnt sich ein einfacher, schriftlicher Standardprozess. Wer erstellt KI-Entwürfe, wer prüft sie, wie wird die Freigabe dokumentiert, wo wird gekennzeichnet? Das gehört in die KI-Richtlinie des Unternehmens, statt als isolierte Sonderregel zu existieren.

4. Technische Umsetzung wo nötig. Für Bilder die Metadaten prüfen, die das eingesetzte Tool setzt, und bei Bedarf ergänzen, für Chatbots einen klaren, nicht wegklickbaren Hinweis zu Beginn der Interaktion einbauen. Für Texte mit Deepfake- oder Öffentlichkeitsbezug: sichtbare Kennzeichnung an prominenter Stelle, nicht im Kleingedruckten.

Wer unsicher ist, ob die eigene Content-Praxis unter die Pflicht fällt oder wo KI-Inhalte überhaupt entstehen, kann das in einer Erstberatung klären lassen. Oft ist die Inventur der aufwändigere Teil, nicht die eigentliche Kennzeichnung.

Risikomatrix: Pflichten und Gegenmaßnahmen

Die Matrix ordnet 6 typische Content-Situationen in KMU nach Pflichtstatus. Sie zeigt je eine naheliegende Gegenmaßnahme. Sie ersetzt keine rechtliche Prüfung im Einzelfall, dient aber als erster Filter für die eigene Inventur.

Situation	Pflicht (Art. 50)?	Zuständigkeit	Hauptrisiko	Gegenmaßnahme.
KI-Chatbot im Kundenservice	Ja, außer offensichtlich	Anbieter/Betreiber	Bußgeld, Vertrauensverlust	Klarer Hinweis zu Gesprächsbeginn, nicht in den AGB.
KI-Blogtext, redaktionell geprüft	Nein (redaktionelle Kontrolle)	Redaktion	Prüfung im Streitfall nicht nachweisbar	Freigabevermerk mit Prüfer:in, Datum und Notiz.
KI-Blogtext ohne echte Prüfung	Ja	Betreiber	Bußgeld, Reputationsschaden	Echte Prüfung einführen oder sichtbar kennzeichnen.
KI-Produktbild ohne Personenbezug	Technische Pflicht beim Tool-Anbieter	Hersteller, Betreiber prüft Metadaten	Metadaten gehen verloren	Metadaten (z. B. IPTC-Feld) beim Export prüfen.
KI-„Statement“-Video einer realen Person	Ja, Deepfake-Pflicht	Betreiber	Hohes Bußgeld, Rechtsrisiko	Deutlich kennzeichnen; im Zweifel auf den Einsatz verzichten.
Internes KI-Protokoll oder interne Analyse	Nein	,	Qualitätsrisiko	Trotzdem menschliche Prüfung vor Nutzung nach außen.

Eigene Risikomatrix Philogic Labs, abgeleitet aus Artikel 50 AI Act und dem Code of Practice der EU-Kommission (Stand Juli 2026). Ersetzt keine Rechtsberatung.

Risiken & Grenzen

Rechtliche Unsicherheit bleibt. Die Verordnung ist an mehreren Stellen bewusst offen formuliert („wirksam, interoperabel, robust, zuverlässig“), und Auslegungshilfen wie der Code of Practice sind freiwillig. Wer nach dem Stichtag Rechtssicherheit will, kommt an einer individuellen rechtlichen Prüfung nicht vorbei. Dieser Artikel liefert die Einordnung, keine verbindliche Auskunft.

Politische Bewegung im Detail. Diskussionen um Vereinfachungen des AI Act („Omnibus“-Vorschläge) und mögliche Übergangsregelungen für Bestandssysteme waren zum Zeitpunkt der Recherche (Juli 2026) nicht abschließend geklärt. Bau deine Prozesse so, dass sie robust gegen kleinere Verschiebungen im Detail sind, statt auf eine bestimmte Kulanzregelung zu spekulieren.

Kennzeichnung ist kein Freibrief für Qualität. Eine korrekt gekennzeichnete KI-Ausgabe kann trotzdem falsch, irreführend oder schlicht schlecht sein. Die Pflicht aus Artikel 50 regelt Transparenz, nicht Inhaltsqualität. Die redaktionelle Verantwortung bleibt beim Unternehmen, ob eine Kennzeichnung erforderlich ist oder nicht.

Übertreiben schadet auch. Wer jeden mit Rechtschreibprüfung bearbeiteten Satz als „KI-generiert“ kennzeichnet, verwässert die Aussagekraft. Gegenüber Kund:innen wirkt das eher verunsichernd als vertrauensbildend. Die Kennzeichnung sollte präzise dort stehen, wo sie eine echte Information trägt.

Dieser Artikel ist keine Rechtsberatung. Die Einordnung basiert auf öffentlich zugänglichen Quellen der EU-Kommission und dem Verordnungstext, Stand Juli 2026. Bei konkreten Umsetzungsfragen, insbesondere zu Bußgeldrisiken oder Grenzfällen, gehört das Thema in die Hände einer Rechtsberatung oder eines Datenschutzbeauftragten.

Checkliste: KI-Inhalte kennzeichnen

1. Wir haben eine aktuelle Inventur aller KI-generierten oder KI-unterstützten Inhalte (Texte, Bilder, Chatbots, Videos).

2. Für jeden Inhaltstyp ist geklärt, ob eine der vier Pflichtgruppen aus Artikel 50 greift oder eine Ausnahme (Offensichtlichkeit, redaktionelle Kontrolle, Kunst/Satire) einschlägig ist.

3. Chatbots mit Kundenkontakt weisen zu Gesprächsbeginn klar und nicht versteckt auf die KI-Nutzung hin.

4. Für redaktionell geprüfte Texte gibt es einen dokumentierten Freigabevermerk mit Prüfer:in, Datum und Änderungsnotiz.

5. Für KI-generierte Bilder sind vorhandene Metadaten (z. B. IPTC-Felder) bekannt und werden beim Export nicht versehentlich entfernt.

6. Für Deepfake-nahe Inhalte (realistische Darstellungen realer Personen) gibt es eine klare, sichtbare Kennzeichnung oder einen bewussten Verzicht.

7. Der Kennzeichnungsprozess ist Teil der unternehmensweiten KI-Richtlinie, keine isolierte Einzelfallregel.

8. Wir beobachten die Entwicklung rund um mögliche Übergangsregelungen aktiv, statt uns darauf zu verlassen.

9. Bei rechtlich unklaren Grenzfällen ist eine Rechtsberatung oder ein Datenschutzbeauftragter eingebunden.

10. Die Kennzeichnung ist präzise und zurückhaltend eingesetzt, nur dort, wo sie echte Information trägt.

Die weiteren Bausteine vertiefen die anderen Artikel im Cluster KI-Governance: der EU AI Act im Gesamtüberblick, die KI-Richtlinie und der Umgang mit KI-Risiken.