Règles harmonisées de l'UE sur l'intelligence artificielle
Introduction
La loi européenne sur l’IA a été publiée et entrera en vigueur en août 2024.
Naturellement, nous étions impatients de comprendre l’impact de cet ensemble de nouvelles règles harmonisées à travers l’UE pour nous en tant qu’entreprise axée sur l’IA. Nous avons commencé par nous plonger dans le document réglementaire… mais nous avons rapidement réalisé à quel point il est difficile de parcourir de longs textes juridiques. Trouvez-vous facile de lire de tels documents ? Pour nous aider à comprendre la nouvelle réglementation, nous nous sommes tournés vers notre fidèle ami ChatGPT. Élaborer le bon prompt était crucial pour nous assurer d’obtenir les informations dont nous avions besoin. Pour plus d’informations sur l’ingénierie de prompt et sur la manière de communiquer efficacement avec l’IA, consultez cet article de blog.
Voici le prompt que nous avons utilisé pour obtenir la réponse que nous recherchions :
Réponse - résumé de la nouvelle loi européenne sur l'IA
Les nouvelles règles relatives au traitement des données pour entraîner les modèles d’IA introduites dans la législation comprennent plusieurs changements et exigences clés qui diffèrent des réglementations précédentes. Voici les points les plus importants accompagnés de citations réelles du document :
- Ensembles de données de haute qualité et représentatifs :
- Les modèles d’IA doivent être entraînés à l’aide d’ensembles de données représentatifs et de haute qualité afin d’éviter les biais et les inexactitudes.
- Citation : « Les ensembles de données utilisés par les systèmes d’IA, en particulier ceux classés comme à haut risque, doivent être de haute qualité, en termes d’exactitude, d’exhaustivité et de représentativité afin de minimiser le risque de biais et d’assurer le bon fonctionnement du système d’IA ».
- Minimisation des données et limitation des finalités :
- Les données collectées pour entraîner les modèles d’IA doivent être minimisées et ne doivent être utilisées que pour des finalités spécifiées.
- Citation : « Le principe de minimisation des données doit être strictement respecté, en veillant à ce que seules les données nécessaires à la finalité spécifique de l’entraînement de l’IA soient collectées et traitées ».
- Transparence et explicabilité :
- Les systèmes d’IA doivent être transparents et leurs processus de prise de décision doivent être explicables aux utilisateurs.
- Citation : « Les fournisseurs de systèmes d’IA à haut risque sont tenus d’assurer la transparence et de fournir des informations claires et compréhensibles sur le système d’IA, y compris ses capacités et ses limites ».
- Atténuation des biais et gestion des risques :
- Les fournisseurs doivent mettre en œuvre des mesures pour atténuer les biais et gérer les risques associés aux systèmes d’IA.
- Citation : « Le système de gestion des risques doit consister en un processus continu et itératif, planifié et exécuté tout au long du cycle de vie d’un système d’IA à haut risque, visant à identifier et à atténuer les risques pertinents des systèmes d’IA pour la santé, la sécurité et les droits fondamentaux ».
- Surveillance post-commercialisation :
- Une surveillance et une évaluation continues des systèmes d’IA après leur déploiement sont requises pour garantir la conformité et les performances continues.
- Citation : « Les fournisseurs doivent établir et documenter un système de surveillance post-commercialisation… pour évaluer la conformité continue des systèmes d’IA aux exigences établies ».
- Consentement explicite et droits des utilisateurs :
- Les utilisateurs doivent donner leur consentement explicite pour que leurs données soient utilisées dans l’entraînement de modèles d’IA, et ils doivent être informés de leurs droits.
- Citation : « Le consentement explicite des utilisateurs dont les données sont utilisées doit être obtenu, en veillant à ce qu’ils soient pleinement conscients de leurs droits et de la manière dont leurs données seront utilisées ».
- Bac à sable réglementaire pour l’IA :
- Un environnement contrôlé (bac à sable) sera établi pour permettre le développement, les tests et la validation de systèmes d’IA sous supervision réglementaire.
- Citation : « Les bacs à sable réglementaires pour l’IA doivent fournir un environnement contrôlé qui favorise l’innovation et facilite le développement, l’entraînement, les tests et la validation de systèmes d’IA innovants ».
Différences par rapport à la législation précédente sur l'intelligence artificielle
- Normes de données plus rigoureuses : Les nouvelles règles mettent l’accent sur la nécessité d’ensembles de données de haute qualité et représentatifs, une étape au-delà des exigences générales précédentes en matière de qualité des données.
- Accent accru sur la transparence : L’accent est davantage mis sur la transparence et l’explicabilité des systèmes d’IA, rendant obligatoire pour les fournisseurs de divulguer des informations plus détaillées sur leurs modèles d’IA.
- Gestion des risques renforcée : L’introduction d’une gestion continue des risques tout au long du cycle de vie de l’IA est plus complète que les exigences précédentes d’examen périodique.
- Surveillance post-commercialisation : Une surveillance post-commercialisation continue et systématique est désormais requise, alors que les réglementations antérieures se concentraient souvent uniquement sur les évaluations pré-commercialisation.
- Bacs à sable réglementaires : La création de bacs à sable réglementaires pour l’IA est un nouveau concept, conçu pour faciliter l’innovation tout en garantissant la conformité réglementaire dans un environnement contrôlé.
Impact sur les entreprises :
- Augmentation des coûts de conformité : Les entreprises feront face à des coûts plus élevés en raison de la nécessité d’une collecte de données plus rigoureuse, de mesures de transparence et d’une surveillance continue.
- Innovation dans le cadre de la réglementation : Les bacs à sable réglementaires offrent un espace pour l’innovation tout en garantissant la conformité, accélérant potentiellement le processus de développement et de déploiement.
- Normes plus élevées pour la qualité des données : Les entreprises doivent investir dans l’obtention d’ensembles de données de haute qualité et représentatifs, augmentant potentiellement les coûts et le temps nécessaires à la préparation des données.
- Responsabilité accrue : Avec les exigences de consentement explicite des utilisateurs et la surveillance post-commercialisation, les entreprises sont plus responsables des performances et de l’impact de leurs systèmes d’IA.
Ces nouvelles règles établissent une barre plus haute pour le développement et le déploiement responsables de l’IA, visant à équilibrer l’innovation avec la protection des droits fondamentaux et de la sécurité publique.
Prochaines étapes
Comme indiqué, la nouvelle réglementation entre en vigueur le 1er août 2024. Votre entreprise est-elle prête ?
Si vous souhaitez lire l’intégralité de la réglementation, ou si vous voulez créer votre propre prompt pour extraire ce qui vous intéresse, vous pouvez trouver le texte complet ici
Contactez-nous
Vous avez une question sur la prise de décisions basées sur les données dans votre entreprise ?
Vous souhaitez explorer comment votre entreprise peut commencer à bénéficier de l'IA ?
En savoir plus sur ce sujet
