Welche Rolle übernimmt Ihr Unternehmen?
Anbieter
Betreiber
Bevollmächtigter Vertreter
Händler
Importeur
In welche Risikoklasse fällt Ihr KI-System oder Modell?
Verbotene Praktiken
Hochrisiko-KI
Mittleres Risiko
Systemisches Risiko
Geringes Risiko
Einführung eines Qualitätsmanagementsystems (Art. 17 KI-VO)
Erstellung, Aktualisierung und Aufbewahrung der technischen Dokumentation (Art. 11 i.V.m. Art. 18 KI-VO)
Protokollierungspflichten und Aufbewahrung der Aufzeichnungen (Art. 19 KI-VO)
Durchführung von Konformitätsbewertungsverfahren sowie Anbringung der CE-Kennzeichnung (Art. 16 lit. f-h i.V.m. Art. 43, 47, 48 KI-VO)
Nachweis der Konformität gegenüber Aufsichtsbehörden (Art. 16 lit. i i.V.m. Art. 49 KI-VO)
Registrierung des KI-Systems in der EU-Datenbank (Art. 16 lit. k KI-VO)
Implementierung eines Risikomanagement-Systems (Art. 9 KI-VO)
Verantwortungsvolle Daten- und Data-Governance-Praktiken (Art. 10 KI-VO)
Gewährleistung von Genauigkeit, Robustheit und Cybersicherheit (Art. 15 KI-VO)
Erstellung einer verständlichen Betriebsanleitung (Art. 13 KI-VO)
Sicherstellung menschlicher Aufsicht über das System (Art. 14 KI-VO)
Implementierung geeigneter technischer und organisatorischer Maßnahmen (TOM) zur Einhaltung der Gebrauchsanweisung (Art. 26 Abs. 1 KI-VO)
Sicherstellung der menschlichen Aufsicht über das KI-System (Art. 26 Abs. 2 KI-VO)
Verwendung geeigneter Eingabedaten entsprechend der Zweckbestimmung (Art. 26 Abs. 4 KI-VO)
Kontinuierliche Überwachung des KI-Betriebs gemäß der Betriebsanleitung (Art. 26 Abs. 5 KI-VO)
Erfüllung von Informationspflichten gegenüber Nutzern und Behörden (Art. 26 Abs. 5, 7, 11; Art. 50 Abs. 4 KI-VO)
Aufbewahrung von Protokollen, wenn der Betreiber die Kontrolle über das System hat (Art. 26 Abs. 6 KI-VO)
Konsultation der Arbeitnehmervertretung bei der Implementierung von Hochrisiko-KI im Arbeitsumfeld (Art. 26 Abs. 7 KI-VO)
Durchführung einer Datenschutz-Folgenabschätzung, falls personenbezogene Daten verarbeitet werden (Art. 26 Abs. 9 KI-VO)
Erstellung einer Grundrechte-Folgenabschätzung zur Bewertung der Auswirkungen des KI-Systems auf die Rechte der Betroffenen (Art. 27 KI-VO)
Informationspflicht gegenüber Nutzern:
Anbieter müssen sicherstellen, dass betroffene Personen eindeutig darüber informiert werden, dass sie mit einem KI-System interagieren.
Kennzeichnung synthetischer Inhalte:
Wenn das KI-System synthetische Inhalte (z. B. Texte, Bilder, Audio- oder Videomaterial) erzeugt, muss der Output klar als solcher gekennzeichnet werden. Außerdem muss dieser Output - soweit technisch möglich - interoperabel, belastbar und zuverlässig sein.
Offenlegung von Deepfakes:
Betreiber müssen sicherstellen, dass durch das KI-System erzeugte Deepfake-Inhalte als solche offengelegt werden.
Information bei Emotionserkennung:
Wird ein KI-System zur Emotionserkennung eingesetzt, müssen die betroffenen Personen darüber in Kenntnis gesetzt werden, dass diese Technologie verwendet wird.
Erstellung einer technischen Dokumentation:
Detaillierte Beschreibung der Modellarchitektur, Trainingsmethoden und Leistungsmerkmale.
Informationsbereitstellung für nachgelagerte Anbieter
Bereitstellung aller notwendigen Informationen und Unterlagen für Unternehmen, die GPAI-Modelle in eigene Systeme integrieren möchten.
Sicherstellung der Einhaltung des Urheberrechts
Entwicklung und Implementierung von Strategien zur Vermeidung von Urheberrechtsverletzungen durch die Nutzung des KI-Modells.
Transparenz über Trainingsdaten
Bereitstellung einer detaillierten Zusammenfassung der beim Training verwendeten Daten. Hierfür stellt das AI Office standardisierte Vorlagen zur Verfügung.
Erleichterung der Transparenzpflichten durch Open-Source-Lizenzen
Anbieter können die Transparenzanforderungen teilweise erleichtern, indem sie ihr Modell unter einer FOSS-Lizenz (Free and Open Source Software) bereitstellen (Art. 53 Abs. 2 KI-VO).
Erweiterte technische Dokumentation und Bewertung
Durchführung umfassender Modellbewertungen, einschließlich Stresstests und Angriffssimulationen zur Ermittlung von Schwachstellen.
Implementierung von Maßnahmen zur Risikominderung
Entwicklung spezifischer Strategien und Kontrollmechanismen, um potenzielle Risiken zu minimieren.
Meldung von Vorfällen
Verpflichtung zur umgehenden Meldung von Vorfällen und Sicherheitsverletzungen an das AI Office sowie an nationale Aufsichtsbehörden.
Verstärkte Cybersicherheitsmaßnahmen
Implementierung von robusten Sicherheitsmechanismen, um Manipulationen, Missbrauch oder unautorisierte Nutzung des Modells zu verhindern.
Link kopieren
en_US
