Juridique et réglementaire : Intelligence artificielle - réglementation européenne (AI Act) : notions centrales et définition des acteurs

Le règlement UE 2024/1689, adopté le 13 juin 2024 et publié au Journal officiel de l'Union européenne du 12 juillet 2024, est entré en vigueur le 1er août 2024.
Ce règlement européen (« AI Act ») constitue LE PREMIER CADRE LEGISLATIF AU MONDE qui harmonise au sein de l’Union européenne le développement, la mise sur le marché et l’utilisation des systèmes d’intelligence artificielle.

Publié le - Mis à jour le

image d'illustration - Agrandir l'image, fenêtre modale

Les principaux objectifs de ce texte tendent à : 

  • Promouvoir une IA centrée sur l'humain et digne de confiance, tout en assurant le respect des droits fondamentaux des individus consacrés par la Charte des droits fondamentaux de l'Union européenne, incluant la démocratie, l'Etat de droit et la protection de l'environnement ;
  • Améliorer la compétitivité du marché européen et soutenir l’innovation dans le domaine de l’IA, en instaurant un cadre légal harmonisé. 

 

Notions centrales fondant l’encadrement européen de l’IA 

Le règlement IA est articulé autour de plusieurs concepts que le présent Juris info entend préciser pour faciliter la compréhension. 

 

  • Système d’IA (SIA) : Le système d’IA désigne « un système automatisé qui est conçu pour fonctionner à différents niveaux d’autonomieet peut faire preuve d’une capacité d’adaptation après son déploiement, et qui, pour des objectifs explicites ou implicites, déduit, à partir des entrées qu’il reçoit, la manière de générer des sorties telles que des prédictions, du contenu, des recommandations ou des décisions qui peuvent influencer les environnements physiques ou virtuels ». (article 3.1 du règlement (UE) 2024/1689 sur l’intelligence artificielle)

 

  • Système d’IA à usage général : Un système d’intelligence artificielle à usage général désigne ceux conçus pour exécuter différentes fonctions dans divers domaines d’application, sans limitation à une tâche précise (article 3.63 du règlement (UE) 2024/1689 sur l’intelligence artificielle). 

Il se distingue des systèmes d’intelligence artificielle conçus pour une finalité spécifique, tels que des systèmes de surveillance, de création artistique ou de conception industrielle, en ce qu’il n’est pas limité à une tâche ou un domaine particulier mais présente une capacité d’adaptation à un large éventail d’usages. 

 

Les systèmes d’IA à usage général se retrouvent dans plusieurs dispositifs : 

  • La reconnaissance d’images ou de voix ;
  • La génération de contenus audio ou vidéo ;
  • La détection de schémas ou d’anomalies ;
  • La traduction automatique ; 

  • La réponse à des requêtes complexes. 

     

  • Risque systémique (régime renforcé) 

La notion de risque systémique désigne ceux qui ont « une incidence significative sur le marché de l’Union en raison de leur portée ou d’effets négatifs réels ou raisonnablement prévisibles sur la santé publique, la sûreté, la sécurité publique, les droits fondamentaux ou la société dans son ensemble, susceptible de se propager à grande échelle tout au long de la chaîne de valeur » (article 3 du règlement AI). 

Afin d’anticiper et de limiter ces effets, les systèmes d’IA à usage général présentant un tel risque sont assujettis à des obligations spécifiques (régime renforcé), notamment en matière de gestion des risques, de transparence, de cybersécurité, de documentation technique et de supervision humaine. 

 

Six acteurs de la chaîne de valeur de l’IA et leurs obligations 

Le règlement IA définit six acteurs de la chaîne de valeur de l’IA et les obligations leur incombant.

Acteurs DéfinitionObligations
Fournisseurs de systèmes d’IA à haut risque

 

 

Personne physique ou morale qui met sur le marché des systèmes d’IA à haut risque ou des modèles d’IA à usage général dans l’Union européenne
  • Assurer la conformité du système avec les exigences du règlement (article 16) ;

• Indiquer leur identité et leurs coordonnées sur le système, son emballage ou la documentation (article 16) ;

• Mettre en place un système de gestion de la qualité (article 17) ;

• Conserver la documentation technique (article 11) et la documentation relative au système de gestion de la qualité (article 18) ;

• Se soumettre à la procédure d'évaluation de la conformité applicable avant la mise sur le marché ou en service (article 43) ;

• Établir une déclaration UE de conformité (article 47) ;

• Apposer le marquage CE (article 48) ;

• Respecter les obligations d'enregistrement (article 49).

Déployeurs de systèmes d’IA à haut risque
Personne physique ou morale qui utilise sous sa propre autorité un système d’IA à haut risque
Article 26 du règlement IA :
• Prendre des mesures techniques et organisationnelles appropriées pour utiliser le système conformément à la notice d'utilisation ;
• Confier le contrôle humain à des personnes compétentes, formées et ayant l'autorité nécessaire ;
• Informer les représentants des travailleurs et les travailleurs concernés avant de mettre en service un système d'IA à haut risque sur le lieu de travail.
• Informer les personnes physiques qu'elles sont soumises à l'utilisation d'un système d'IA à haut risque lorsqu'il prend des décisions ou facilite les prises de décision les concernant
• Surveiller le fonctionnement du système et informer les fournisseurs en cas de problème ou de risque (article 72 et 73).
Fournisseurs de modèles d'IA à usage général
Personne physique ou morale, une autorité publique, une agence ou un autre organisme qui développe un modèle d'IA à usage général ou qui fait développer un tel modèle et le met sur le marché, à titre onéreux ou gratuit
Article 53 du règlement IA :
• Élaborer et tenir à jour une documentation technique du modèle et de son processus d'entraînement et d'essai ;
• Élaborer, tenir à jour et mettre à disposition des informations et une documentation pour les fournisseurs en aval qui souhaitent intégrer le modèle dans leurs systèmes d'IA (annexe XII).
• Mettre en place une politique visant à respecter le droit d'auteur et les droits voisins de l'Union, notamment en identifiant et en respectant les réserves de droits.
• Élaborer et mettre à la disposition du public un résumé suffisamment détaillé du contenu utilisé pour entraîner le modèle.
• Coopérer avec la Commission et les autorités nationales compétentes.
Nota bene : 
Le modèle d’IA constitue la technologie de base pouvant être intégrée dans différents systèmes ou applications, tandis que 
le système d’IA désigne son utilisation concrète pour remplir une fonction précise. 
Importateurs de systèmes d’IA 
 
Personne physique ou morale située ou établie dans l'Union qui met sur le marché un système d'IA portant le nom ou la marque d'une personne physique ou morale établie dans un pays tiers
Peu d’obligations sauf en cas de SIA à haut risque.
 
Distributeurs de systèmes d’IA
Personne physique ou morale de la chaîne d’approvisionnement, autre que le fournisseur ou l’importateur, qui met un système d’IA à disposition sur le marché de l’Union européenne.
Fabricants de produits
Personne physique ou morale qui met sur le marché ou met en service un système d’IA en même temps que leur produit et sous leur propre nom ou leur propre marque
cf. régime applicable aux fournisseurs.
 
 
 
 
Mandataires des fournisseurs situés en dehors de l’UE
Personne physique ou morale qui exécute les tâches indiquées dans le mandat que lui a confié le fournisseur situé en dehors de l’UE
Article 22 du règlement IA :
• Vérifier que la déclaration UE de conformité et la documentation technique ont bien été établies ;
• Vérifier que le fournisseur a suivi une procédure appropriée d’évaluation de la conformité ;
• Coopérer avec la Commission et les autorités nationales compétentes.

 

Source : 

Règlement UE 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle (et modifiant les règlements CE n° 300/2008 du 11 mars 2008, UE n° 167/2013 du 5 février 2013, UE n° 168/2013 du 15 janvier 2013, UE 2018/858 du 30 mai 2018, UE 2018/1139 du 4 juillet 2018 et UE 2019/2144 du 27 novembre 2019, ainsi que les directives 2014/90/UE du 23 juillet 2014, UE 2016/797 du 11 mai 2016 et UE 2020/1828 du 25 novembre 2020). 

Publication au Journal Officiel de l’Union européenne : 12 juillet 2024 

Pour plus d'informations: 

Eisabeth Wicht, Juriste d’entreprise, Courriel