AI Act: Was Unternehmen wissen müssen

Was ist der AI-Act eigentlich?

Der AI-Act ist eine europäische Verordnung, die die Grundlage für eine verantwortungsvolle, ethische und sichere Nutzung von Künstlicher Intelligenz (KI) schafft. Sie stellt sicher, dass KI-Systeme in Europa transparent sind und die Grundrechte respektieren.

Konkret unterteilt der AI Act KI-Systeme in vier Risikokategorien:

• Unzulässiges Risiko: Verbotene Systeme (z. B. psychologische Manipulation, Soziale Bewertung, Echtzeit-Gesichtserkennung im öffentlichen Raum)
• Hohes Risiko: Streng regulierte Systeme (z. B. Einsatz von KI in sensiblen Bereichen wie Personalwesen, Bildung, Kreditvergabe)
• Transparenzrisiko: Systeme mit Informationspflicht gegenüber dem Nutzer (z. B. Chatbots, Deepfakes, generative KI)
• Minimales oder kein Risiko: Systeme ohne besondere Anforderungen (z. B. Spamfilter)

Der AI-Act wird schrittweise ab 2025 wirksam, erste Sanktionen sind aber bereits vorgesehen (bis zu 35 Millionen € oder 7% des Umsatzes bei den schwerwiegendsten Verstößen).

Ist mein Unternehmen direkt betroffen?

Auch wenn Sie kein Tech-Unternehmen sind, nutzen Sie möglicherweise bereits KI-basierte Drittanbieterlösungen. Ob Sie KI entwickeln, einsetzen oder in Ihre Prozesse integrieren – höchstwahrscheinlich sind Sie von dieser neuen Regelung betroffen.

Konkretes Beispiel: Ein HR-Dienstleister, der eine Software zur automatischen Vorauswahl von Lebensläufen nutzt bzw. ein Transportunternehmen, das auf ein System zur vorausschauenden Fehlererkennung zurückgreift.

Je nach Risikotyp muss Ihr Unternehmen:

• Verfahren zur Risikobewertung einführen
• Die Qualität der verwendeten Daten sicherstellen, um Verzerrungen zu vermeiden
• Systeme dokumentieren und Nachvollziehbarkeit der Entscheidungen gewährleisten
• Klare Informationen für die Nutzer bereitstellen
• Menschliche Kontrollen vorsehen – robust, sicher und nicht „blind“

Wie kann man sich vorbereiten?

Eine gute Vorbereitung reicht von der Kartierung Ihrer aktuellen und geplanten KI-Nutzung über die Schulung Ihrer Teams bis hin zur Anpassung interner Prozesse.

KI ist ein großartiger Innovationshebel – vorausgesetzt, ihr Einsatz ist beherrscht. Jetzt ist also der richtige Zeitpunkt, um vorzusorgen, denn der AI-Act verlangt, dass Sie wissen, was Sie nutzen, wie und wozu.