AI Act : ce que les entreprises doivent savoir
L’AI Act, qu’est-ce que c’est au juste ?
L’AI Act est une réglementation européenne qui pose les bases d’un usage responsable, éthique, et sécurisé de l’IA et veille à garantir que les systèmes d’IA utilisés en Europe soient transparents et respectueux des droits fondamentaux.
Concrètement, l’AI Act classe les systèmes d’IA en 4 catégories de risques :
- Risque inacceptable: systèmes interdits (par exemple : manipulation psychologique, notation sociale, reconnaissance faciale en temps réel dans l’espace public…)
- Haut risque: systèmes strictement encadrés (par exemple : utilisation de l’IA dans des secteurs sensibles tels que les ressources humaines, l’éducation, l’accès au crédit…)
- Risque de transparence: systèmes avec obligation d’informer l’utilisateur (par exemple : chatbot, deepfake, IA générative)
- Risque minimal ou nul : systèmes sans contrainte spécifique (par exemple : filtres anti-spam).
Applicable de manière progressive depuis 2025, des sanctions sont déjà prévues (jusqu’à 35 millions € ou 7% du chiffre d’affaires pour les manquements les plus graves).
Mon entreprise est-elle directement concernée ?
Même si vous n’êtes pas une entreprise technologique, vous utilisez peut-être déjà des solutions tierces intégrant de l’IA. En effet, que vous développiez, utilisiez ou intégriez de l’IA dans vos processus, vous êtes probablement concerné par cette nouvelle règlementation.
Cas concret : un cabinet de RH qui utilise un logiciel de présélection automatique de CV ou une société de transport qui s’appuie sur un système de détection prédictive des pannes.
En fonction du type de risque, votre entreprise devra
- Mettre en place des procédures d’évaluation des risques
- S’assurer de la qualité des données utilisées pour éviter les biais
- Documenter le système et garantir la traçabilité de ses décisions
- Fournir des informations claires à l’utilisateur
- Prévoir un contrôle humain, robuste, sécurisé et « non-aveugle »
Comment s’y préparer ?
Une bonne préparation passe de la cartographie de vos usages actuels et futurs de l’IA jusqu’à la formation de vos équipes en passant par l’adaptation de vos processus internes.
L’IA est un formidable levier d’innovation, à condition que son utilisation soit maitrisée. Il est donc temps d’anticiper car l’AI Act vous demandera de connaître ce que vous utilisez, comment et pourquoi.