Hochrisiko-KI: So setzen Sie die technischen Anforderungen der KI-VO um

Mit dem Inkrafttreten der KI-Verordnung im August 2024 schuf die EU erstmals einen umfassenden Rechtsrahmen für Künstliche Intelligenz. Ab August 2026 gelten strenge Anforderungen für Hochrisiko-KI-Systeme. Unternehmen müssen also prüfen, ob ihre KI-Anwendungen betroffen sind, in welche Risikoklasse sie fallen und welche Rolle sie in der KI-Wertschöpfungskette einnehmen.

Ein KI-System wird als Hochrisiko eingestuft, wenn es etwa in physische Produkte integriert ist oder eigenständig in sensiblen Bereichen wie der biometrischen Identifikation, der Kreditwürdigkeitsprüfung oder bei Personalentscheidungen eingesetzt wird.

Anbieter und Betreiber solcher Systeme unterliegen dabei weitreichenden Pflichten und tragen die Verantwortung für deren sichere Gestaltung sowie den rechtskonformen Betrieb.

Hinweis: Alle regulatorischen Pflichten der KI-VO haben wir für Sie ausführlich in diesem Beitrag zusammengefasst.

Die KI-Verordnung legt insbesondere für Hochrisiko-KI-Systeme umfangreiche technische Anforderungen fest. Sie definiert dabei zwar, welche Ziele erreicht werden müssen, etwa in Bezug auf Genauigkeit, Fairness und Robustheit (Art. 15 KI-VO) oder die Qualität von Trainingsdaten (Art. 10 KI-VO), bleibt jedoch bewusst technologieoffen, wie diese Vorgaben konkret umzusetzen sind.

Für Unternehmen wirft das wichtige Fragen auf:

Hier kommt der sog. „Stand der Technik“ ins Spiel. Dieser besteht aus aktuellen wissenschaftlichen Erkenntnissen, bewährten Best Practices aus der Industrie und internationalen Normen, die als objektiv überprüfbare Basis für regulatorische Konformität gelten.

Ein zentraler Hebel für die Sicherstellung der Hochrisiko-KI-Compliance sind internationale Standards, die als objektiv überprüfbare Referenz dienen und gleichzeitig Sicherheit im Entwicklungs- und Auditprozess schaffen.

Die ISO/IEC 42001 unterstützt beim Aufbau eines strukturierten KI-Managementsystems. Sie definiert Anforderungen an Verantwortlichkeiten und Prozesse, die sicherstellen, dass KI-Anwendungen durchgängig kontrolliert, dokumentiert und qualitätsgesichert betrieben werden.

Die ISO/IEC 24029-Reihe bietet Methoden, um die Robustheit von neuronalen Netzen zu bewerten. So können Unternehmen die Widerstandsfähigkeit ihrer Systeme gegenüber Fehlern, Störungen oder Manipulationen nachweisen.

Darüber hinaus legt die ISO/IEC 5259-Reihe klare Anforderungen an die Qualität von Trainings- und Testdaten fest. Sie hilft, Verzerrungen zu identifizieren, Datenlücken zu schließen und so die Fairness sowie Leistungsfähigkeit von KI-Systemen regulatorisch abzusichern.

Diese Standards schaffen Orientierung und bilden die Basis, um Hochrisiko-KI-Systeme nicht nur rechtskonform, sondern auch technisch vertrauenswürdig zu gestalten.

Wie sich die Anforderungen aus Art. 10 und Art. 15 der KI-Verordnung in der Praxis umsetzen lassen, zeigen wir in unserem Whitepaper am Beispiel einer KI-gestützten Kreditwürdigkeitsprüfung. Der Anwendungsfall macht deutlich, welche technischen und organisatorischen Pflichten Unternehmen konkret zu erwarten haben - von der Analyse der Datenqualität über den Umgang mit möglichen Verzerrungen bis hin zur Sicherstellung von Fairness und Robustheit.

Gerade bei sensiblen Anwendungsbereichen wie der Kreditvergabe sollten KI-Verantwortliche die regulatorischen Anforderungen nicht nur in der Theorie kennen, sondern sie auch technisch fundiert umsetzen können. Unser Whitepaper bietet hierzu praxisnahe Einblicke und zeigt, wie sich Hochrisiko-KI-Systeme technisch auf Rechtskonformität prüfen und absichern lassen.

In unserem Whitepaper erfahren Sie im Detail, welche rechtlichen und technischen Anforderungen Anbieter und Betreiber von Hochrisiko-KI-Systemen erfüllen müssen. Außerdem zeigen wir Ihnen, welche internationalen Normen dabei unterstützen, den „Stand der Technik“ einzuhalten, und welche technischen Maßnahmen erforderlich sind, um den Vorgaben der KI-Verordnung gerecht zu werden.

Neben einem praxisnahen Beispiel aus der Kreditwürdigkeitsprüfung erhalten Sie auch Einblicke, wie Unternehmen ihre Systemlandschaft strukturiert aufstellen können, um die Anforderungen der KI-VO zuverlässig umzusetzen.

Lesen Sie jetzt das Whitepaper, das gemeinsam von caralegal und der e:fs TechHub GmbH erstellt wurde, und verschaffen Sie sich einen fundierten Überblick.

Leah Klees

Legal Content & Compliance Specialist bei caralegal

Leah Klees ist Unternehmensjuristin bei der caralegal GmbH mit Schwerpunkt auf KI-Governance und Datenschutzrecht. Sie spezialisiert sich darauf, komplexe regulatorische Anforderungen in umsetzbare, praxisnahe Maßnahmen zu übersetzen.