L’AI Act propose un cadre réglementaire pour les systèmes d’IA à haut risque, tels que ceux utilisés dans les secteurs de la santé, de la sécurité routière, de l’éducation et d’autres domaines sensibles. Il prévoit également des exigences pour la transparence et la responsabilité des systèmes d’IA, ainsi que des sanctions en cas de non-conformité.
Le Parlement européen se prépare à négocier les premières règles sur l’Intelligence Artificielle (IA) qui visent à garantir sa sécurité et sa transparence. Les principales mesures comprennent :
- Une interdiction totale de l’utilisation de l’IA pour la surveillance biométrique, la reconnaissance des émotions et la police prédictive.
- Les systèmes d’IA génératifs, tels que ChatGPT, devront indiquer clairement que le contenu a été généré par une IA.
- Les systèmes d’IA utilisés pour influencer les électeurs dans les élections seront considérés comme à haut risque.
Ces règles visent à promouvoir une IA centrée sur l’humain et digne de confiance, tout en protégeant la santé, la sécurité, les droits fondamentaux et la démocratie contre ses effets néfastes.
Les règles interdisent certaines pratiques de l’IA, telles que les systèmes de classification sociale, la reconnaissance biométrique en temps réel dans des espaces publics, et les systèmes de prédiction policière. De plus, les systèmes d’IA à haut risque incluent désormais ceux utilisés pour influencer les électeurs et dans les recommandations des médias sociaux.
Les fournisseurs de modèles de base d’IA devront évaluer et atténuer les risques potentiels et les enregistrer dans une base de données de l’UE avant leur mise sur le marché. Les systèmes d’IA génératifs basés sur de tels modèles devront respecter des exigences de transparence et de protection contre la création de contenu illégal.
Des exemptions sont prévues pour les activités de recherche et les composants d’IA fournis sous licence open-source. La législation encourage également la création de « boîtes à sable réglementaires » pour tester l’IA avant son déploiement.
Les citoyens auront le droit de déposer des plaintes concernant les systèmes d’IA et de recevoir des explications sur les décisions basées sur des systèmes d’IA à haut risque. Le rôle de l’Office de l’IA de l’UE sera réformé pour surveiller la mise en œuvre de la réglementation sur l’IA.
Les négociations avec le Conseil sur la forme finale de la loi commenceront prochainement. Les rapporteurs du Parlement européen soulignent l’importance de protéger les démocraties et les libertés tout en exploitant le potentiel positif de l’IA.