AI Act: Was Unternehmen wissen müssen
Was ist der AI-Act eigentlich?
Der AI-Act ist eine europäische Verordnung, die die Grundlage für eine verantwortungsvolle, ethische und sichere Nutzung von Künstlicher Intelligenz (KI) schafft. Sie stellt sicher, dass KI-Systeme in Europa transparent sind und die Grundrechte respektieren.
Konkret unterteilt der AI Act KI-Systeme in vier Risikokategorien:
- Unzulässiges Risiko: Verbotene Systeme (z. B. psychologische Manipulation, Soziale Bewertung, Echtzeit-Gesichtserkennung im öffentlichen Raum)
- Hohes Risiko: Streng regulierte Systeme (z. B. Einsatz von KI in sensiblen Bereichen wie Personalwesen, Bildung, Kreditvergabe)
- Transparenzrisiko: Systeme mit Informationspflicht gegenüber dem Nutzer (z. B. Chatbots, Deepfakes, generative KI)
- Minimales oder kein Risiko: Systeme ohne besondere Anforderungen (z. B. Spamfilter)
Der AI-Act wird schrittweise ab 2025 wirksam, erste Sanktionen sind aber bereits vorgesehen (bis zu 35 Millionen € oder 7% des Umsatzes bei den schwerwiegendsten Verstößen).
Ist mein Unternehmen direkt betroffen?
Auch wenn Sie kein Tech-Unternehmen sind, nutzen Sie möglicherweise bereits KI-basierte Drittanbieterlösungen. Ob Sie KI entwickeln, einsetzen oder in Ihre Prozesse integrieren – höchstwahrscheinlich sind Sie von dieser neuen Regelung betroffen.
Konkretes Beispiel: Ein HR-Dienstleister, der eine Software zur automatischen Vorauswahl von Lebensläufen nutzt bzw. ein Transportunternehmen, das auf ein System zur vorausschauenden Fehlererkennung zurückgreift.
Je nach Risikotyp muss Ihr Unternehmen:
- Verfahren zur Risikobewertung einführen
- Die Qualität der verwendeten Daten sicherstellen, um Verzerrungen zu vermeiden
- Systeme dokumentieren und Nachvollziehbarkeit der Entscheidungen gewährleisten
- Klare Informationen für die Nutzer bereitstellen
- Menschliche Kontrollen vorsehen – robust, sicher und nicht „blind“
Wie kann man sich vorbereiten?
Eine gute Vorbereitung reicht von der Kartierung Ihrer aktuellen und geplanten KI-Nutzung über die Schulung Ihrer Teams bis hin zur Anpassung interner Prozesse.
KI ist ein großartiger Innovationshebel – vorausgesetzt, ihr Einsatz ist beherrscht. Jetzt ist also der richtige Zeitpunkt, um vorzusorgen, denn der AI-Act verlangt, dass Sie wissen, was Sie nutzen, wie und wozu.