Check: Welche Transparenzpflichten gelten für mein System?

Die meisten KI-Systeme in Unternehmen sind kein Hochrisiko — und viele Verantwortliche schließen daraus, dass der EU AI Act sie nicht betrifft. Das ist ein teurer Kurzschluss. Quer zu den Risikoklassen liegt eine zweite Pflichtenschicht: die Transparenzpflichten nach Art. 50. Sie greifen bei Systemen, die mit Menschen interagieren, synthetische Inhalte erzeugen oder biometrisch auf Personen einwirken — unabhängig davon, ob das System hochriskant ist. Dieser Check führt Sie durch die vier Auslöser-Tatbestände und die Ausnahmen. Er richtet sich an alle, die einen Chatbot, einen Text- oder Bildgenerator, ein Voice-System oder Emotionserkennung betreiben. Wenn Sie Ihre Einstufung als Hochrisiko noch nicht geprüft haben, beginnen Sie mit dem Check zur Hochrisiko-Einstufung — Transparenzpflichten kommen dort obendrauf, sie ersetzen nichts.

Vorbereitung

Halten Sie folgende Informationen bereit:

• Eine Liste aller KI-gestützten Berührungspunkte mit Menschen: Chatbots, Voicebots, Assistenten, automatisierte Antwort-Systeme, Avatare.
• Übersicht darüber, wo in Ihrer Organisation KI Inhalte erzeugt oder verändert: Texte, Bilder, Audio, Video — auch intern und auch nur teilweise generiert.
• Klarheit über Ihre Rolle je System: Sind Sie Provider (Sie bringen es in Verkehr) oder Deployer (Sie setzen es ein)? Art. 50 verteilt die Pflichten unterschiedlich. Falls unklar: Check zur Rollen-Einordnung.
• Information darüber, ob biometrische Verfahren im Einsatz sind — Emotionserkennung oder biometrische Kategorisierung.

Der Check

Frage 1: Ist Ihr System dafür bestimmt, direkt mit natürlichen Personen zu interagieren?

Gemeint sind Chatbots, Voicebots, KI-Assistenten im Kundenservice, automatisierte Dialogsysteme auf Website oder Telefon.

• Ja → Auslöser T1 gesetzt. Weiter zu Frage 2.
• Nein → weiter zu Frage 3.

Frage 2: Ist für eine durchschnittlich informierte, aufmerksame Person aus den Umständen heraus offensichtlich, dass sie mit einer Maschine spricht?

Die Offensichtlichkeits-Ausnahme ist eng zu verstehen. Ein Bot, der einen menschlichen Namen trägt und in natürlicher Sprache antwortet, ist im Zweifel nicht offensichtlich.

• Ja, offensichtlich → T1 kann entfallen. Dokumentieren Sie die Begründung. Weiter zu Frage 3.
• Nein oder unsicher → Ergebnis A: Informationspflicht. Nutzende müssen erfahren, dass sie mit einem KI-System interagieren. Weiter zu Frage 3.

Frage 3: Erzeugt oder verändert Ihr System synthetische Inhalte — Text, Bild, Audio oder Video?

• Ja → Auslöser T2 gesetzt. Als Provider trifft Sie eine Kennzeichnungspflicht in maschinenlesbarer Form; die Ausgabe muss als künstlich erzeugt oder manipuliert erkennbar sein. Weiter zu Frage 4.
• Nein → weiter zu Frage 5.

Frage 4: Handelt es sich bei den erzeugten Inhalten um Deepfakes — also um Bild-, Audio- oder Videoinhalte, die realen Personen, Objekten oder Ereignissen täuschend ähneln?

• Ja → Ergebnis B: Offenlegungspflicht als Deployer. Sie müssen offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde. Für offenkundig künstlerische, kreative oder satirische Werke gilt eine abgeschwächte Form der Offenlegung, die die Darbietung nicht beeinträchtigt.
• Nein, aber es handelt sich um veröffentlichten Text zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse → Ergebnis C: Offenlegungspflicht für den Text, sofern keine menschliche redaktionelle Verantwortung und Kontrolle über die Veröffentlichung besteht.
• Nein, rein interne oder klar gekennzeichnete Anwendung → T2 bleibt für Sie als Provider relevant, die Deployer-Offenlegung entfällt. Weiter zu Frage 5.

Frage 5: Setzen Sie ein System zur Emotionserkennung oder zur biometrischen Kategorisierung ein?

• Ja → Ergebnis D: Informationspflicht gegenüber den betroffenen Personen. Zusätzlich: Prüfen Sie zwingend, ob der Einsatz überhaupt zulässig ist — bestimmte Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen fällt unter die verbotenen Praktiken nach Art. 5. Siehe Check zu verbotenen Praktiken. Weiter zu Frage 6.
• Nein → weiter zu Frage 6.

Frage 6: Wurde bei den bisher gesetzten Auslösern jeweils dokumentiert, wie, wann und in welcher Form die Information erfolgt?

• Ja, wir haben Nachweise (Screenshots, UI-Spezifikationen, Metadaten-Konfiguration, Änderungshistorie) → Ergebnis E: Nachweisbarer Zustand.
• Nein, die Hinweise existieren, sind aber nicht dokumentiert → Ergebnis F: Umsetzung ohne Nachweis. Das ist die häufigste Lücke.

Auswertung

Ergebnis A / B / C / D: Für Ihr System gelten Transparenzpflichten nach Art. 50. Die Information muss spätestens zum Zeitpunkt der ersten Interaktion erfolgen, klar und unterscheidbar sein und barrierefreien Anforderungen genügen. Sie ist keine Fußnote in den AGB.

Ergebnis E: Sie erfüllen die Pflicht nicht nur, Sie können es zeigen. Genau darauf zielt eine Aufsichtsanfrage.

Ergebnis F: Der praktische Zustand ist wahrscheinlich in Ordnung, der Nachweis fehlt. Wenn im Enforcement-Fall niemand rekonstruieren kann, seit wann welcher Hinweis in welcher Fassung ausgespielt wurde, ist die Umsetzung faktisch wertlos. Der zeitliche Rahmen für einen belastbaren Zustand ist das Enforcement-Datum 02.12.2027.

Kein Auslöser gesetzt: Art. 50 greift für dieses System nicht. Prüfen Sie die Einstufung erneut, sobald sich der Funktionsumfang ändert — generative Features werden häufig nachgerüstet, ohne dass die Einstufung mitwandert.

Nächste Schritte

• Legen Sie ein Inventar aller Systeme mit Transparenz-Auslöser an, inklusive Rolle (Provider oder Deployer) und Verantwortlichem. Ohne dieses Inventar ist jede spätere Prüfung Rekonstruktionsarbeit.
• Verankern Sie die Kennzeichnung technisch, nicht redaktionell: maschinenlesbare Markierung in der Ausgabe, versionierte UI-Hinweise, protokollierte Änderungen. Passende Vorlagen finden Sie im Compliance-Toolkit auf ki-hochrisiko.de.
• Ordnen Sie das Ergebnis in den Gesamtrahmen der Verordnung ein — der Leitfaden auf eu-ai-verordnung.de zeigt, wie Transparenzpflichten neben den Risikoklassen greifen.

Was dieser Check NICHT leistet

Dieser Self-Check ist eine strukturierte Orientierungshilfe, keine Rechtsberatung. Ob ein Hinweis im Einzelfall als ausreichend klar gilt, ob die Offensichtlichkeits-Ausnahme trägt und wie weit die Ausnahme für künstlerische Werke reicht, sind Auslegungsfragen, die ein Fragebogen nicht abschließend beantworten kann. Sonderregeln für Strafverfolgungsbehörden bleiben hier bewusst ausgeklammert. Nutzen Sie das Ergebnis, um Ihren Status einzuordnen und das Gespräch mit Fachleuten vorzubereiten — nicht als verbindliche Bewertung.

Wenn dieser Check Sie zur Erkenntnis bringt, dass strukturierte Trust-Infrastructure nötig ist: AEGIRA AI Navigator deckt diese Self-Assessments operativ ab — aegira.ai.