KI im Unternehmen: Was muss seit dem 2. August 2026 tatsächlich offengelegt werden?
Seit dem 2. August 2026 gelten die Transparenzpflichten des Art. 50 der europäischen KI-Verordnung (AI Act). Unternehmen, die KI einsetzen, müssen deshalb jedoch nicht pauschal jeden KI-unterstützten Text oder jedes KI-generierte Bild kennzeichnen. Entscheidend ist vielmehr, wie KI eingesetzt wird, welche Inhalte entstehen und welche Rolle das Unternehmen dabei einnimmt.
Kurz eingeordnet
ca. 6 Min.
Kurzantwort
Für viele alltägliche Unternehmensanwendungen ändert Art. 50 wenig. Wer generative KI beispielsweise intern für Entwürfe, Zusammenfassungen oder Analysen verwendet, muss diese Nutzung nicht allein deshalb gegenüber Dritten offenlegen.
Besondere Transparenzpflichten greifen dagegen insbesondere bei KI-Systemen, die unmittelbar mit Menschen interagieren, beim Einsatz von Emotionserkennung oder biometrischer Kategorisierung sowie bei Deepfakes und bestimmten KI-generierten Veröffentlichungen zu Themen von öffentlichem Interesse.
Für Unternehmen lohnt sich deshalb keine pauschale „KI-Kennzeichnung“, sondern eine gezielte Prüfung der tatsächlich verwendeten Anwendungen.
1. Wenn Menschen direkt mit einem KI-System interagieren
KI-Systeme, die für eine unmittelbare Interaktion mit natürlichen Personen bestimmt sind – etwa bestimmte Chatbots, KI-Agenten oder Avatare –, müssen grundsätzlich so gestaltet sein, dass der Nutzer erkennt, dass er mit einem KI-System interagiert. Eine zusätzliche Information ist nicht erforderlich, wenn dies für einen verständigen Nutzer ohnehin offensichtlich ist.
Die Verpflichtung aus Art. 50 Abs. 1 AI Act richtet sich dabei zunächst an den Anbieter des jeweiligen KI-Systems.
Für Unternehmen, die beispielsweise einen KI-gestützten Kundenservice einsetzen, sollte daher geprüft werden, ob die eingesetzte Lösung diese Transparenzanforderung erfüllt.
2. Deepfakes müssen erkennbar gemacht werden
Unternehmen, die KI-generierte oder manipulierte Bilder, Audio- oder Videoinhalte einsetzen, müssen genauer hinsehen.
Handelt es sich um einen sogenannten Deepfake – also um Inhalte, die bestehende Personen, Gegenstände, Orte oder Ereignisse realistisch nachbilden und fälschlich authentisch erscheinen können –, muss offengelegt werden, dass der Inhalt künstlich erzeugt oder manipuliert wurde.
Das kann etwa bei KI-generierten Personenaufnahmen, Stimmen oder Videos im Marketing relevant werden.
3. Für KI-generierte Texte besteht keine allgemeine Kennzeichnungspflicht
Besonders wichtig für die Unternehmenspraxis: Nicht jeder mit generativer KI erstellte Text muss als KI-
Eine Offenlegungspflicht nach Art. 50 Abs. 4 AI Act betrifft Texte, die mit KI erzeugt oder manipuliert und veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.
Darunter können beispielsweise wirtschaftliche, finanzielle, politische, wissenschaftliche oder gesellschaftliche Entwicklungen fallen, die Gegenstand einer öffentlichen Debatte sein können.
Auch dann sieht die Verordnung allerdings eine wichtige Ausnahme vor: Hat der Inhalt eine echte menschliche Prüfung oder redaktionelle Kontrolle durchlaufen und trägt eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung, ist eine KI-Kennzeichnung nach dieser Vorschrift nicht erforderlich.
Eine bloße Rechtschreib- oder Grammatikprüfung genügt dafür nicht. Erforderlich ist eine inhaltliche Prüfung durch eine Person mit der für das Thema erforderlichen Sachkunde und Entscheidungskompetenz.
4. Wie ist ein KI-generierter Text praktisch zu kennzeichnen?
Der AI Act schreibt keinen bestimmten Kennzeichnungssatz vor. Die Information muss aber klar und unterscheidbar spätestens bei der ersten Wahrnehmung des Inhalts erfolgen und die geltenden Barrierefreiheitsanforderungen berücksichtigen.
Die Europäische Kommission hat hierfür ein freiwilliges Set von EU-Kennzeichnungs-Icons entwickelt. Es unterscheidet unter anderem zwischen vollständig KI-generierten und teilweise mit KI veränderten Inhalten. Die Verwendung dieser Icons ist nicht verpflichtend.
Wer keine EU-Icons verwendet, kann die Offenlegung grundsätzlich auch auf andere geeignete Weise vornehmen. Entscheidend ist, dass für den Leser ohne technische Hilfsmittel klar erkennbar wird, dass der betreffende Text künstlich erzeugt oder manipuliert wurde.
CERON PRAXIS
So kann eine Kennzeichnung aussehen
Vollständig KI-generierter Text
„Dieser Text wurde vollständig mit KI erstellt.“
Teilweise KI-generierter oder KI-bearbeiteter Text
„Dieser Text wurde teilweise mit KI erstellt oder bearbeitet.“
Die Formulierungen sind keine gesetzlich vorgeschriebenen Mustertexte. Entscheidend ist eine klare und für den Leser unmittelbar erkennbare Information. Alternativ können auch die von der Europäischen Kommission bereitgestellten freiwilligen EU-Kennzeichnungs-Icons eingesetzt werden.
Die Kommission empfiehlt bei Kennzeichnungen eine einfache und verständliche Sprache. Werden die von ihr entwickelten Icons eingesetzt, sollen diese bei der ersten Wahrnehmung des Inhalts erkennbar und grundsätzlich unmittelbar in den Inhalt oder dessen Benutzeroberfläche eingebunden sein.
Davon zu unterscheiden ist eine zweite Pflicht des AI Act: Anbieter bestimmter generativer KI-Systeme müssen KI-generierte Inhalte zusätzlich maschinenlesbar kennzeichnen. Ein solcher technischer Marker ersetzt bei einer nach Art. 50 Abs. 4 erforderlichen Offenlegung gegenüber dem Leser jedoch nicht die sichtbare Transparenzinformation.
5. Besondere Regeln gelten für Emotionserkennung und biometrische Kategorisierung
Wer Systeme zur Emotionserkennung oder zur biometrischen Kategorisierung einsetzt, muss betroffene Personen grundsätzlich darüber informieren, dass ein solches System verwendet wird.
Für viele Unternehmen dürfte dies kein alltäglicher Anwendungsfall sein. Relevant kann die Regelung aber beispielsweise bei spezialisierten Analyse- oder Sicherheitssystemen werden.
6. Welche Folgen können Verstöße haben?
Die Transparenzpflichten des Art. 50 AI Act sind bußgeldbewehrt.
Verstöße gegen Art. 50 können grundsätzlich mit einer Geldbuße von bis zu 15 Millionen Euro oder – bei Unternehmen – bis zu 3 Prozent des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres geahndet werden.
Bei kleinen und mittleren Unternehmen gelten privilegierende Obergrenzen. Zudem bedeutet der gesetzliche Bußgeldrahmen nicht, dass jeder Kennzeichnungsverstoß automatisch zu einer entsprechend hohen Geldbuße führt.
Bei der Festsetzung sind unter anderem Art, Schwere und Dauer des Verstoßes, die Zahl der betroffenen Personen, die Unternehmensgröße, vorsätzliches oder fahrlässiges Verhalten, eine Zusammenarbeit mit der zuständigen Behörde sowie Maßnahmen zur Behebung des Verstoßes zu berücksichtigen.
Neben Geldbußen sieht der AI Act auch andere Durchsetzungsmaßnahmen wie Warnungen und nicht-monetäre Maßnahmen vor.
Für Unternehmen ist die Frage der Kennzeichnung damit kein rein formales Detail. Zugleich spricht der risikobasierte und verhältnismäßige Sanktionsrahmen dafür, Transparenzpflichten strukturiert in bestehende KI-Governance- oder Freigabeprozesse einzubauen, statt für jede einzelne KI-Nutzung vorsorglich neue Kennzeichnungspflichten anzunehmen.
CERON Einordnung
Art. 50 AI Act führt nicht zu einer allgemeinen Pflicht, die Verwendung von KI im Unternehmen offenzulegen.
Der sinnvollere Ansatz ist daher nicht, vorsorglich jeden KI-unterstützten Inhalt mit einem Hinweis zu versehen. Unternehmen sollten vielmehr ihre konkreten KI-Anwendungen danach unterscheiden, welche Funktion das System erfüllt und ob einer der gesetzlich geregelten Transparenzfälle betroffen ist.
Besondere Aufmerksamkeit verdienen aus unserer Sicht derzeit kundennahe KI-Systeme, KI-generierte Bild-, Audio- und Videoinhalte sowie öffentlich veröffentlichte Texte.
Bei Letzteren ist zugleich wichtig: Der AI Act unterscheidet zwischen ungeprüft veröffentlichtem KI-Content und dem Einsatz von KI als Werkzeug innerhalb eines verantworteten redaktionellen Prozesses. Wer KI zur Vorbereitung nutzt, die Inhalte anschließend aber fachlich prüft, verändert und selbst verantwortet, befindet sich rechtlich in einer anderen Situation als jemand, der generierten Content ungeprüft veröffentlicht.
Praktische Konsequenz: Unternehmen sollten nicht zuerst fragen „Nutzen wir KI?“, sondern „Wo und wie setzen wir KI ein – und welche dieser Anwendungen löst tatsächlich eine Transparenzpflicht aus?“
Dr. Conrad Schulte-Wintrop,
Rechtsanwalt
Verordnung (EU) 2024/1689 (AI Act), EUR-Lex: https://eur-lex.europa.eu/eli/reg/2024/1689/oj
Art. 50 AI Act, AI Act Service Desk: https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-50
Art. 99 AI Act, AI Act Service Desk: https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-99
EU-Icons zur Kennzeichnung KI-generierter Inhalte, Europäische Kommission: https://digital-strategy.ec.europa.eu/en/policies/eu-icons-labelling-ai-generated-content
Dieser Beitrag gibt einen allgemeinen Überblick und ersetzt keine Prüfung des konkreten Einzelfalls.