Check: Welche Deployer-Pflichten gelten für mein System?

Die meisten Organisationen entwickeln keine KI-Systeme, sie setzen sie ein — und sind damit Deployer im Sinne des EU AI Act. Deployer-Pflichten sind schlanker als Provider-Pflichten, aber sie sind real, prüfbar und werden regelmäßig unterschätzt: Wer glaubt, mit dem Einkauf eines Systems die Verantwortung mit eingekauft zu haben, liegt falsch. Dieser Check führt Sie durch die Frage, welche Deployer-Pflichten für Ihr konkretes System greifen und wo Ihre Nachweislücken liegen. Er richtet sich an Fachbereichs- und IT-Verantwortliche, Compliance-Funktionen und Betriebsräte-nahe Rollen. Voraussetzung: Sie haben Ihre Rolle bereits geklärt. Falls nicht, starten Sie mit dem Check zur Rollenzuordnung.

Vorbereitung

Halten Sie folgende Informationen bereit:

• Die Risikoklasse des Systems — oder zumindest eine begründete Arbeitsannahme (siehe Check Hochrisiko).
• Die Betriebsanleitung beziehungsweise Anwendungsdokumentation des Anbieters.
• Angaben dazu, wer das System bedient, mit welcher Qualifikation und mit welchem Entscheidungsspielraum.
• Information darüber, welche Personengruppen von den Ergebnissen betroffen sind — insbesondere, ob Beschäftigte darunter sind.
• Kenntnis darüber, ob und wie lange Systemprotokolle bei Ihnen gespeichert werden und wer darauf Zugriff hat.

Der Check

Frage 1: Setzen Sie das KI-System unter Ihrer eigenen Verantwortung im Rahmen einer beruflichen Tätigkeit ein — also nicht rein privat?

• Ja → siehe Frage 2.
• Nein, rein privater Einsatz → Ergebnis A: Deployer-Pflichten greifen nicht. Der Check endet hier.

Frage 2: Handelt es sich um ein Hochrisiko-System nach Annex I oder Annex III?

• Ja → siehe Frage 3.
• Nein → springen Sie zu Frage 7.
• Unsicher → behandeln Sie es vorerst als Hochrisiko und fahren Sie mit Frage 3 fort. Eine zu vorsichtige Einstufung kostet Aufwand, eine zu leichtfertige kostet mehr.

Frage 3: Setzen Sie das System nachweislich gemäß der beigefügten Betriebsanleitung des Anbieters ein — und haben Sie diese Anleitung überhaupt vorliegen?

• Ja, Anleitung liegt vor und der Einsatz entspricht ihr → siehe Frage 4.
• Anleitung liegt vor, der tatsächliche Einsatz weicht ab → Befund: Lücke 1. Weiter mit Frage 4.
• Anleitung liegt nicht vor → Befund: Lücke 1 (kritisch). Fordern Sie sie beim Anbieter an. Weiter mit Frage 4.

Frage 4: Ist eine menschliche Aufsicht organisatorisch benannt — mit einer Person, die das System versteht, die Ergebnisse hinterfragen kann und befugt ist, es zu übersteuern oder abzuschalten?

• Ja, benannt und befugt → siehe Frage 5.
• Nur formal benannt, ohne echte Übersteuerungsbefugnis oder ohne Fachkenntnis → Befund: Lücke 2. Weiter mit Frage 5.
• Nein → Befund: Lücke 2 (kritisch). Weiter mit Frage 5.

Frage 5: Haben Sie Kontrolle über die Eingabedaten, und sind diese für den vorgesehenen Zweck des Systems relevant und hinreichend repräsentativ?

• Ja, Datenherkunft und Eignung sind dokumentiert → siehe Frage 6.
• Daten kommen aus Ihren Systemen, sind aber nie auf Eignung geprüft worden → Befund: Lücke 3. Weiter mit Frage 6.
• Sie haben keine Kontrolle über die Eingabedaten → notieren Sie das als Feststellung. Weiter mit Frage 6.

Frage 6: Werden die automatisch erzeugten Protokolle (Logs) des Systems in Ihrem Verantwortungsbereich aufbewahrt und sind sie im Bedarfsfall auswertbar?

• Ja, aufbewahrt und auswertbar → siehe Frage 7.
• Logs entstehen, werden aber nicht gesichert oder sind nach kurzer Zeit überschrieben → Befund: Lücke 4. Weiter mit Frage 7.
• Unklar, ob das System überhaupt protokolliert → Befund: Lücke 4 (kritisch). Klären Sie das mit dem Anbieter. Weiter mit Frage 7.

Frage 7: Werden natürliche Personen unmittelbar mit dem System konfrontiert — etwa durch einen Chatbot, generierte Inhalte, Deepfakes oder Emotionserkennung?

• Ja → Befund: Transparenzpflichten einschlägig. Betroffene müssen wissen, dass sie es mit einem KI-System zu tun haben beziehungsweise dass Inhalte künstlich erzeugt oder manipuliert wurden. Weiter mit Frage 8.
• Nein → siehe Frage 8.

Frage 8: Setzen Sie ein Hochrisiko-System am Arbeitsplatz ein, das Beschäftigte betrifft?

• Ja → Befund: Informationspflicht gegenüber Beschäftigten und ihren Vertretungen vor Inbetriebnahme. Weiter mit Frage 9.
• Nein → siehe Frage 9.

Frage 9: Verfügen die Personen, die das System bedienen, über eine dokumentierte KI-Kompetenz-Schulung?

• Ja, dokumentiert → siehe Frage 10.
• Geschult, aber nicht dokumentiert → Befund: Lücke 5. Ohne Nachweis ist eine Schulung im Audit wertlos.
• Nein → Befund: Lücke 5 (kritisch).

Frage 10: Könnten Sie heute, ohne Vorlauf, gegenüber einer Aufsichtsbehörde belegen, welche der obigen Punkte Sie erfüllen?

• Ja, mit Dokumenten und Zeitstempeln → Ergebnis D.
• Teilweise, mit Rekonstruktionsaufwand → Ergebnis C.
• Nein → Ergebnis B.

Auswertung

Ergebnis A: Kein beruflicher Einsatz, keine Deployer-Pflichten. Sobald sich das ändert, wiederholen Sie den Check.

Ergebnis B: Sie betreiben ein System, dessen Pflichterfüllung Sie nicht belegen können. Unabhängig davon, wie gut Ihre Praxis tatsächlich ist — im Enforcement-Fall zählt der Nachweis, nicht die Absicht. Das ist der häufigste Ausgangszustand.

Ergebnis C: Substanz ist vorhanden, die Evidenz ist verstreut. Der Aufwand liegt weniger im Aufbau als im Zusammenführen und Versionieren.

Ergebnis D: Sie sind nachweisfähig. Prüfen Sie in diesem Fall vor allem die Aktualität: Deployer-Pflichten sind Dauerpflichten, kein Projektergebnis.

Jede notierte Lücke benennt eine konkrete Pflicht, die derzeit nicht belegbar erfüllt ist. Als kritisch markierte Lücken sollten Sie priorisieren.

Nächste Schritte

• Lücken 1 bis 4 schließen Sie am schnellsten mit vorbereiteten Vorlagen — Betriebsanleitungs-Abgleich, Aufsichts-Rollenbeschreibung und Logging-Konzept finden Sie im Compliance-Toolkit auf ki-hochrisiko.de.
• Wenn Frage 2 unsicher blieb, klären Sie zuerst die Einstufung: Der Risikostufen-Deep-Dive auf ki-risikostufe.de ordnet die vier Klassen ein.
• Setzen Sie einen Zieltermin. Das Enforcement-Datum ist der 02.12.2027; Nachweisketten rückwirkend aufzubauen ist deutlich teurer, als sie ab jetzt mitlaufen zu lassen. Den Gesamtrahmen der Pflichten ordnet der Leitfaden auf eu-ai-verordnung.de ein.

Was dieser Check NICHT leistet

Dieser Self-Check ist eine strukturierte Orientierungshilfe, keine Rechtsberatung. Welche Deployer-Pflichten im Einzelfall greifen, hängt von der konkreten Einstufung des Systems, vom Einsatzkontext und von weiteren Rechtsgrundlagen ab — etwa Datenschutz-, Arbeits- und Sektorrecht, die dieser Fragebogen bewusst ausklammert. Auch die Abgrenzung, ob Sie durch Eingriffe in das System vom Deployer zum Provider werden, wird hier nicht geprüft. Nutzen Sie das Ergebnis, um Ihren Status einzuordnen und das Gespräch mit Fachleuten vorzubereiten — nicht als verbindliche Bewertung.

Wenn dieser Check Sie zur Erkenntnis bringt, dass strukturierte Trust-Infrastructure nötig ist: AEGIRA AI Navigator deckt diese Self-Assessments operativ ab — aegira.ai.