Hochrisiko-KI nach EU AI Act: So klassifizieren Sie Ihre Systeme richtig

Die Frage, ob ein KI-System unter den EU AI Act als Hochrisiko gilt, ist eine der wichtigsten und gleichzeitig am schwierigsten zu beantwortenden Fragen bei der AI-Act-Compliance. Die Klassifizierung bestimmt: Gilt der Vollumfang der Hochrisiko-Pflichten (Konformitätsbewertung, CE-Kennzeichnung, technische Dokumentation nach Anhang IV, Post-Market-Monitoring) – oder nicht?

Dieser Beitrag erklärt das Klassifizierungsschema mit konkreten Praxisbeispielen.

Zwei Wege in die Hochrisiko-Kategorie

Kurz: Der EU AI Act definiert Hochrisiko-KI auf zwei Wegen:

Der EU AI Act definiert Hochrisiko-KI auf zwei Wegen:

Weg 1: Anhang I – Sicherheitsrelevante Produktkategorien KI-Systeme, die als Sicherheitsbauteil in Produkten verwendet werden, die bereits EU-Sicherheitsrichtlinien unterliegen, sind automatisch Hochrisiko. Betroffen sind u.a.:

• Maschinen (Maschinenrichtlinie)
• Medizinprodukte (MDR/IVDR)
• Luftfahrt
• Kraftfahrzeuge
• Aufzüge
• Spielzeug mit KI-Komponenten

Weg 2: Anhang III – Explizit gelistete Hochrisiko-Bereiche Hier geht es um KI-Systeme in bestimmten gesellschaftlich sensiblen Anwendungsbereichen:

Bereich	Beispiele
Biometrische Identifikation	Gesichtserkennung, Ganganalyse
Kritische Infrastruktur	KI-Steuerung in Energienetzen, Wasserversorgung
Bildung	Automatisierte Prüfungsbewertung, Zulassungsentscheidungen
Beschäftigung & HR	KI-Recruiting, Leistungsbewertung, Entlassungsentscheidungen
Wesentliche Dienstleistungen	KI in der Kreditvergabe, Bonitätsprüfung, Versicherungen
Strafverfolgung	KI-gestützte Risikobeurteilung, Lügendetektion
Migration & Asyl	Risikoklassifizierung von Personen
Rechtspflege	KI-Unterstützung bei Gerichtsentscheidungen

Praxisbeispiele: Hochrisiko oder nicht?

Kurz: KI-gestütztes Recruiting-Tool, das Lebensläufe vorqualifiziert: → Hochrisiko.

KI-gestütztes Recruiting-Tool, das Lebensläufe vorqualifiziert: → Hochrisiko. Fällt unter Anhang III, Abschnitt Beschäftigung. Betrifft HR-Entscheidungen mit wesentlichem Einfluss auf Personen.

Chatbot auf der Unternehmenswebsite für Kundenanfragen: → Kein Hochrisiko. Transparenzpflicht (Kennzeichnung als KI), aber keine Hochrisiko-Einstufung bei reiner Informationsbereitstellung.

KI-System zur Kreditwürdigkeitsprüfung eines Kunden: → Hochrisiko. Explizit in Anhang III gelistet.

KI-gestützte Bestandsprognose im Lager: → Kein Hochrisiko. Interner Prozessoptimierungsfall ohne wesentliche Auswirkung auf Personen.

KI-System, das automatisch Preise für Endkunden berechnet: → Abhängig vom Kontext. Bei Versicherungsprämien oder Kreditkonditionen: Hochrisiko. Bei dynamischen Produktpreisen im E-Commerce: in der Regel kein Hochrisiko.

KI in einer Werkzeugmaschine, die sicherheitsrelevante Entscheidungen trifft: → Hochrisiko über Anhang I (Maschinenrichtlinie), unabhängig von Anhang III.

KI-Empfehlungssystem für interne Weiterbildung: → Grauzone. Wenn Empfehlungen karriererelevante Entscheidungen beeinflussen, möglicherweise Hochrisiko. Wenn rein informatorisch, eher nicht.

Nicht-Hochrisiko-Ausnahmen: Wann gilt Anhang III trotzdem nicht?

Kurz: Der AI Act enthält eine wichtige Ausnahme: Ein System fällt trotz Zugehörigkeit zu einem Anhang-III-Bereich nicht unter Hochrisiko, wenn es:

Der AI Act enthält eine wichtige Ausnahme: Ein System fällt trotz Zugehörigkeit zu einem Anhang-III-Bereich nicht unter Hochrisiko, wenn es:

• Nur eine Hilfsfunktion für die menschliche Entscheidung ausübt (der Mensch entscheidet, das KI-System bereitet lediglich auf)
• Keine wesentliche Wirkung auf das Ergebnis der menschlichen Entscheidung hat
• Ausschließlich zur Verwaltung eingesetzt wird (z.B. Kalenderplanung, Dokumentenformatierung)

Wichtig: Diese Ausnahme gilt nicht automatisch. Der Anbieter oder Betreiber muss dokumentieren und begründen, warum das System trotz Anhang-III-Zugehörigkeit nicht als Hochrisiko einzustufen ist.

Klassifizierungsprozess: Wie geht man vor?

Kurz: Schritt 1: Technische Beschreibung des Systems erstellen.

Schritt 1: Technische Beschreibung des Systems erstellen. Was macht das System genau? Welche Eingaben verarbeitet es? Welche Ausgaben produziert es? Wie fließen die Ausgaben in Entscheidungen ein?

Schritt 2: Anhang I prüfen. Ist das System Sicherheitsbauteil in einem Produkt, das einer EU-Sicherheitsrichtlinie unterliegt?

Schritt 3: Anhang III prüfen. In welchem Einsatzbereich wird das System verwendet? Fällt dieser Bereich unter einen der acht Hochrisiko-Bereiche?

Schritt 4: Ausnahmetatbestände prüfen. Gilt die Hilfsfunktions-Ausnahme? Ist die Auswirkung auf Personenentscheidungen tatsächlich wesentlich?

Schritt 5: Klassifizierung dokumentieren. Die Klassifizierungsentscheidung und ihre Begründung müssen dokumentiert sein – auch wenn das Ergebnis „kein Hochrisiko" ist. Im Zweifelsfall kann eine externe Rechtseinschätzung sinnvoll sein.

Besonderheit: KI-Systeme in der Softwareentwicklung

Kurz: Wenn Sie individuelle Software entwickeln lassen und diese Software KI-Komponenten enthält, ist die Klassifizierung frühzeitig zu klären:

Wenn Sie individuelle Software entwickeln lassen und diese Software KI-Komponenten enthält, ist die Klassifizierung frühzeitig zu klären:

• Wer ist Anbieter im Sinne des AI Acts? (Oft der Auftraggeber, nicht die Agentur)
• Welche Pflichten treffen den Anbieter?
• Wie werden Pflichten zwischen Auftraggeber und Entwicklungspartner vertraglich aufgeteilt?

Diese Fragen sollten vor Projektstart im Vertrag geregelt sein. Nachträgliche Zuordnungen sind aufwändig und teuer. Unser Team plant KI-Entwicklungsprojekte von Anfang an unter Berücksichtigung der AI-Act-Anforderungen.

Was bei falscher Klassifizierung droht

Kurz: Wer ein Hochrisiko-System fälschlich als nicht-Hochrisiko einstuft und betreibt:

Wer ein Hochrisiko-System fälschlich als nicht-Hochrisiko einstuft und betreibt:

• Riskiert Bußgelder bis 15 Mio. € oder 3 % des weltweiten Umsatzes
• Haftet für Schäden, die aus dem Betrieb eines nicht-konformen Systems entstehen
• Riskiert Produktrückrufe und Vertriebssperren bei gewerblich vertriebenen Systemen

Die Behörden haben das Recht, Klassifizierungsdokumentationen anzufordern und zu prüfen.

Fazit

Kurz: Die Klassifizierung ist kein administrativer Formalakt, sondern eine materielle Entscheidung mit erheblichen Konsequenzen.

Die Klassifizierung ist kein administrativer Formalakt, sondern eine materielle Entscheidung mit erheblichen Konsequenzen.

Der Bereich „grau" ist groß – und wird durch künftige Guidance der EU-KI-Behörde (AIDA) schrittweise klarer.

Wer heute investiert in eine belastbare Klassifizierungsdokumentation, vermeidet später teure Nacharbeit.

Den vollständigen Compliance-Überblick bietet unser Beitrag EU AI Act: Was Unternehmen 2026 wissen müssen.

Häufig gestellte Fragen (FAQ)

Kurz: Kann sich die Klassifizierung im Laufe der Zeit ändern?

Kann sich die Klassifizierung im Laufe der Zeit ändern? Ja. Wenn ein System wesentlich verändert wird, ist die Klassifizierung neu zu bewerten. Auch neue EU-Guidance kann zu einer Neubewertung führen. Klassifizierung ist kein Einmalvorgang.

Wer entscheidet final, ob ein System Hochrisiko ist – der Anbieter oder eine Behörde?

Primär der Anbieter (Selbstklassifizierung).

Die Marktüberwachungsbehörden können die Klassifizierung prüfen und anfechten.

Bei bestimmten Hochrisiko-Systemen ist eine unabhängige Konformitätsbewertung durch eine notifizierte Stelle vorgeschrieben.

Gilt der AI Act für KI-Systeme, die außerhalb der EU entwickelt wurden, aber in der EU eingesetzt werden? Ja. Der AI Act gilt für alle KI-Systeme, die in der EU eingesetzt werden, unabhängig vom Entwicklungsstandort. Importeure und Betreiber aus Drittstaaten tragen eigene Pflichten.

Wie verhält sich der AI Act zu bestehenden Datenschutzanforderungen der DSGVO? AI Act und DSGVO sind komplementär. DSGVO regelt den Umgang mit personenbezogenen Daten, AI Act die Sicherheit und Transparenz von KI-Systemen. Beide können gleichzeitig gelten – und die Pflichten addieren sich.