L’Union européenne a franchi une nouvelle étape dans l’encadrement de l’intelligence artificielle. La Commission européenne a précisé les huit cas d’interdictions désormais en vigueur dans le cadre de l’AI Act, la première législation mondiale visant à réguler l’IA en fonction de son niveau de risque.
Quels sont les huit interdictions pour le moment ?
Mardi, la Commission européenne a détaillé les systèmes d’intelligence artificielle (IA) désormais interdits dans l’UE en raison de leurs risques jugés trop élevés. Ces interdictions, issues de la législation pionnière adoptée l’an dernier, entreront en vigueur le 2 août. Elles vont concerner les usages les plus risqués et intrusifs de l’IA, notamment dans la surveillance, la manipulation comportementale et l’exploitation des données biométriques.
Les interfaces exploitant des techniques subliminales pour influencer les décisions des utilisateurs (comme inciter à un achat sans consentement éclairé) sont interdites (là on oscille entre le 5e élément et Severance...).
2. Exploitation des vulnérabilités des enfants et des personnes handicapées
Les jouets ou assistants numériques utilisant l’IA pour manipuler l’attention des enfants et les pousser à des actions potentiellement dangereuses sont bannis.
3. Notation sociale basée sur des données personnelles
L’UE interdit l’utilisation de l’IA pour attribuer un score aux individus en fonction de critères non pertinents, comme leur comportement sur les réseaux sociaux ou leur origine, à l’image du système de crédit social en Chine.
4. Évaluation du risque criminel par l’IA
Autre interdiction pour une pratique qui semblait tout droit sorti de Minority Report ! Les forces de l’ordre ne pourront plus utiliser des algorithmes pour prédire la propension d’une personne à commettre un crime en se basant uniquement sur des données biométriques ou personnelles, une approche jugée discriminatoire.
5. Création de bases de données faciales à partir d’images du web
L’extraction massive de photos de visages sur internet pour alimenter des bases de données destinées à l’identification biométrique n'est absolument pas autorisée.
6. Reconnaissance des émotions au travail et à l’école
Les entreprises et institutions éducatives ne pourront pas utiliser l’IA pour analyser les émotions des employés ou des élèves, une technologie jugée intrusive et imprécise.
7. Déduction des opinions politiques et de l’orientation sexuelle via l’IA
Tout système d’intelligence artificielle prétendant deviner l’orientation politique ou sexuelle d’un individu à partir de son apparence physique ou de ses données biométriques est désormais persona non grata en Europe.
8. Identification en temps réel par reconnaissance faciale
Bye bye la reconnaissance faciale largement déployée comme en Chine par exemple. Les caméras de surveillance équipées d’IA ne pourront plus identifier des individus en temps réel dans les espaces publics. Une exception est cependant prévue pour les forces de l’ordre dans des cas précis, comme la lutte contre le terrorisme.
L’Europe en pionnière de la régulation de l’IA
Avec ces interdictions, l’Union européenne veut prévenir les dérives potentielles de l’IA et encadrer ses usages les plus sensibles. L’AI Act, qui entrera en vigueur progressivement d’ici 2026, impose également des obligations aux développeurs d’IA, en fonction du niveau de risque de leurs systèmes.
Adopté en mai 2024 après des négociations intenses entre les États membres, l’AI Act vise à réguler le développement, la mise sur le marché et l’utilisation des systèmes d’intelligence artificielle selon leur niveau de risque. Pour cela, le texte a établi quatre catégories auxquelles correspondent des niveaux de sécurité.
Les quatre classifications de l'IA :
• IA interdite : pratiques jugées dangereuses, comme la manipulation cognitive à grande échelle ou la notation sociale par l’IA. • IA à haut risque : systèmes ayant un impact direct sur la sécurité ou les droits fondamentaux (ex. : reconnaissance faciale, IA dans le recrutement, santé, éducation). • IA à risque limité : obligation de transparence pour certaines applications (ex. : deepfakes, chatbots). • IA à risque minimal : usage libre, sans restriction (ex. : filtres photo, recommandations de contenu).
