Check: Ist mein KI-System eine verbotene Praktik nach Art. 5?

Bevor Sie prüfen, ob Ihr KI-System hochrisikoreich ist, müssen Sie eine vorgelagerte Frage klären: Ist es überhaupt zulässig? Artikel 5 der KI-Verordnung (VO 2024/1689) benennt Praktiken, die unabhängig von jeder Risikominderung, Dokumentation oder Zertifizierung untersagt sind. Wo eine verbotene Praktik vorliegt, hilft kein Compliance-Aufwand — das System darf nicht in Verkehr gebracht, nicht in Betrieb genommen und nicht verwendet werden. Diese Verbote gelten bereits seit dem 2. Februar 2025 und damit deutlich vor dem Enforcement-Datum 02.12.2027, das für den Hochrisiko-Pflichtenkreis den Takt vorgibt. Der Verstoß gegen Art. 5 ist zudem mit dem höchsten Bußgeldrahmen der Verordnung bewehrt. Dieser Check richtet sich an Produktverantwortliche, Compliance-Funktionen und Einkauf und führt Sie durch die acht Verbotstatbestände. Er setzt voraus, dass Ihr System vom Anwendungsbereich erfasst ist — falls das noch offen ist, beginnen Sie mit dem Check zum Anwendungsbereich.

Vorbereitung

Halten Sie folgende Informationen bereit:

Eine präzise Beschreibung des Zwecks, den das System verfolgt — und der Zwecke, für die es sich zusätzlich eignet.
Die Art der verarbeiteten Daten: insbesondere ob biometrische Daten verarbeitet werden und aus welcher Quelle sie stammen.
Den Einsatzkontext: Arbeitsplatz, Bildungseinrichtung, öffentlich zugänglicher Raum, Strafverfolgung, private Kundenbeziehung.
Die betroffenen Personengruppen und ob darunter besonders schutzbedürftige Gruppen sind (Alter, Behinderung, soziale oder wirtschaftliche Lage).
Die Rechtsfolgen, die an eine Systemausgabe geknüpft werden — führt sie zu Benachteiligung, Ausschluss oder belastenden Maßnahmen?

Der Check

Prüfen Sie alle acht Fragen. Anders als bei einer Risikoklassifizierung endet der Check nicht bei der ersten Verneinung — jeder Tatbestand steht für sich.

Frage 1: Setzt Ihr System Techniken der unterschwelligen Beeinflussung, absichtlich manipulative oder täuschende Techniken ein, um das Verhalten von Personen wesentlich zu verändern?

Erfasst ist die Beeinträchtigung der Fähigkeit zu informierter Entscheidung, wenn dadurch erheblicher Schaden entsteht oder wahrscheinlich entsteht.

Ja → Treffer T1. Weiter mit Frage 2 (weitere Tatbestände möglich).
Nein → Frage 2.

Frage 2: Nutzt Ihr System die Schutzbedürftigkeit von Personen aufgrund ihres Alters, einer Behinderung oder ihrer sozialen bzw. wirtschaftlichen Lage aus, um deren Verhalten wesentlich zu verändern?

Ja, und erheblicher Schaden ist die Folge oder wahrscheinlich → Treffer T2.
Nein → Frage 3.

Frage 3: Bewertet oder klassifiziert Ihr System Personen über einen Zeitraum anhand ihres sozialen Verhaltens oder persönlicher Merkmale (Social Scoring)?

Untersagt ist das Scoring, wenn die Bewertung zu einer Schlechterstellung führt, die entweder in einem sachfremden Kontext erfolgt oder ungerechtfertigt bzw. unverhältnismäßig zum bewerteten Verhalten ist. Das Verbot gilt für öffentliche wie private Akteure.

Ja, mit benachteiligender Wirkung in sachfremdem Kontext oder unverhältnismäßig → Treffer T3.
Nein → Frage 4.

Frage 4: Prognostiziert Ihr System das Risiko, dass eine Person eine Straftat begeht, allein auf Grundlage von Profiling oder der Bewertung von Persönlichkeitsmerkmalen?

Nicht erfasst sind Systeme, die eine bereits auf objektiven, überprüfbaren und unmittelbar mit einer kriminellen Aktivität verbundenen Tatsachen beruhende menschliche Bewertung lediglich unterstützen.

Ja, allein auf Profiling gestützt → Treffer T4.
Nein → Frage 5.

Frage 5: Erstellt oder erweitert Ihr System Gesichtserkennungs-Datenbanken durch ungezieltes Auslesen von Gesichtsbildern aus dem Internet oder aus Videoüberwachungsmaterial?

Ja → Treffer T5.
Nein → Frage 6.

Frage 6: Leitet Ihr System Emotionen von Personen am Arbeitsplatz oder in Bildungseinrichtungen ab?

Ausgenommen sind Systeme, die aus medizinischen Gründen oder aus Sicherheitsgründen eingesetzt werden.

Ja, ohne dass eine dieser Ausnahmen greift → Treffer T6.
Nein → Frage 7.

Frage 7: Kategorisiert Ihr System Personen anhand biometrischer Daten, um auf Rasse, politische Meinungen, Gewerkschaftszugehörigkeit, religiöse oder weltanschauliche Überzeugungen, das Sexualleben oder die sexuelle Orientierung zu schließen?

Eng begrenzte Ausnahmen bestehen unter anderem für das Kennzeichnen oder Filtern rechtmäßig erworbener biometrischer Datensätze.

Ja → Treffer T7.
Nein → Frage 8.

Frage 8: Setzen Sie biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken ein?

Dieser Tatbestand betrifft in erster Linie Strafverfolgungsbehörden. Die Verordnung sieht hierfür eng umgrenzte Ausnahmen mit vorheriger Genehmigung vor, die von den Mitgliedstaaten national ausgestaltet werden.

Ja → Treffer T8. Eine Einzelfallprüfung der nationalen Ausnahmeregelung ist zwingend.
Nein → kein Treffer aus diesem Tatbestand.

Auswertung

Kein Treffer: Ihr System fällt nach dieser Selbst-Einschätzung nicht unter Art. 5. Damit ist nichts über die Risikoklasse gesagt — der nächste Schritt ist die Hochrisiko-Prüfung.

Ein oder mehrere Treffer (T1–T8): Ihr System berührt einen Verbotstatbestand. Das ist kein Compliance-Gap, der sich durch Dokumentation schließen ließe, sondern eine Frage der Zulässigkeit. Prüfen Sie zuerst, ob eine der ausdrücklichen Ausnahmen greift (Frage 4, 6, 7 und 8 kennen solche). Greift keine, ist der Einsatz zu unterlassen oder das System so umzugestalten, dass der Tatbestand entfällt — etwa durch Wegfall der Emotionsableitung im Arbeitskontext oder durch Verzicht auf die sachfremde Verwendung eines Scores.

Unklarer Treffer: Mehrere Tatbestände arbeiten mit unbestimmten Rechtsbegriffen — „wesentliche Verhaltensänderung", „erheblicher Schaden", „sachfremder Kontext". Behandeln Sie einen unklaren Treffer wie einen Treffer und holen Sie eine juristische Einordnung ein, bevor Sie in Betrieb gehen.

Nächste Schritte

Ohne Treffer: Gehen Sie zur Einstufung über, mit dem Check zur Hochrisiko-Einstufung.
Mit Treffer: Dokumentieren Sie die Prüfung samt Begründung und Datum. Diese Dokumentation ist der belastbare Nachweis, dass Sie den Tatbestand geprüft haben — und sie ist der erste Baustein einer nachweisbaren Trust-Infrastructure. Vertiefend zur höchsten Risikoklasse: Klasse Unannehmbar auf ki-risikostufe.de.
Systematisch: Führen Sie den Art.-5-Check nicht einmalig, sondern bei jeder Zweckänderung erneut durch. Zweckänderungen sind der häufigste Weg, auf dem ein zulässiges System in einen Verbotstatbestand hineinwächst. Den Gesamtrahmen ordnet der Leitfaden auf eu-ai-verordnung.de ein.

Was dieser Check NICHT leistet

Dieser Self-Check ist eine strukturierte Orientierungshilfe, keine Rechtsberatung. Die Verbotstatbestände des Art. 5 hängen an Tatbestandsmerkmalen, deren Auslegung sich erst über Aufsichtspraxis, Leitlinien und Rechtsprechung verfestigen wird; eine Frage-Kette kann sie nicht abschließend abbilden. Insbesondere die Reichweite der Ausnahmen, die Schwelle des „erheblichen Schadens" und die Abgrenzung zwischen zulässiger Entscheidungsunterstützung und verbotener Prognose sind Gegenstand fachlicher Diskussion. Das Ergebnis ersetzt keine juristische Prüfung im Einzelfall und keine Abstimmung mit der zuständigen Aufsicht. Nutzen Sie es, um Prüfbedarf sichtbar zu machen und das Gespräch mit Fachleuten vorzubereiten — nicht als verbindliche Freigabe.

Wenn dieser Check Sie zur Erkenntnis bringt, dass strukturierte Trust-Infrastructure nötig ist: AEGIRA AI Navigator deckt diese Self-Assessments operativ ab — aegira.ai.