Simplification de la mise en œuvre de règles harmonisées sur l'intelligence artificielle (train de mesures omnibus sur le numérique en matière d'IA)

Le Parlement européen a adopté par 569 voix pour, 45 contre et 23 abstentions, des amendements à la proposition de règlement du Parlement européen et du Conseil modifiant les règlements (UE) 2024/1689 et (UE) 2018/1139 en ce qui concerne la simplification de la mise en œuvre des règles harmonisées concernant l’intelligence artificielle (train de mesures omnibus numérique sur l’IA).

La question a été renvoyée aux commissions compétentes pour négociations interinstitutionnelles.

Les principaux amendements adoptés en plénière sont les suivants:

Maîtrise de l’IA

Les fournisseurs de systèmes d’IA devraient être tenus de prendre des mesures pour contribuer à améliorer la maîtrise de l’IA par leur personnel et les autres personnes s’occupant du fonctionnement et de l’utilisation des systèmes d’IA pour leur compte. La Commission et les États membres devraient soutenir la maîtrise de l’IA dans la société et au sein de la population en général et soutenir les efforts déployés par les fournisseurs de systèmes d’IA, en particulier les PME, par exemple par la création de partenariats public-privé fin de leur permettre de s’acquitter de cette obligation.

Afin de favoriser l’innovation et de faciliter l’adoption de l’IA, les PME, y compris les start-up, et les petites entreprises à moyenne capitalisation devraient bénéficier d’un accès prioritaire aux bacs à sable réglementaires de l’IA mis en place par le Bureau de l’IA.

Traitement de catégories particulières de données à caractère personnel à des fins de détection et de correction des biais

Les fournisseurs de système d’IA à haut risque pourraient exceptionnellement traiter des catégories particulières de données à caractère personnel dans la mesure où un traitement est nécessaire pour garantir la détection et la correction des éventuels biais susceptibles de porter atteinte à la santé et à la sécurité des personnes, d’avoir une incidence négative sur les droits fondamentaux ou de se traduire par une discrimination interdite par le droit de l’Union. Les députés ont introduit des garanties pour s’assurer que cela ne se fasse qu’en cas de stricte nécessité.

Pratiques interdites en matière d’IA

Les députés proposent d’interdire la mise sur le marché, la mise en service ou l’utilisation d’un système d’IA qui modifie, manipule ou génère artificiellement des images ou des vidéos réalistes de manière à représenter des activités sexuellement explicites ou les parties intimes d’une personne physique, ou qui déshabille cette personne, sans son consentement. Cette interdiction ne s’appliquera pas aux systèmes d’IA dotés de mesures de sécurité efficaces empêchant les utilisateurs de créer de telles images.

Bureau de l’IA

Le Bureau de l’IA devrait veiller à ce que, dans la mesure où les systèmes d’IA innovants visés à la directive impliquent le traitement de données à caractère personnel, les autorités nationales chargées de la protection des données, le comité européen de la protection des données et les autres autorités nationales ou autorités compétentes soient associées à l’exploitation du bac à sable réglementaire de l’IA établi au niveau de l’Union et participent au contrôle de ces aspects.

Le Bureau de l’IA devrait disposer de pouvoirs de surveillance et d’exécution sur les systèmes d’IA fondés sur des modèles à usage général développés au sein d’un même groupe d’entreprises, ainsi que sur ceux liés aux très grandes plateformes ou moteurs de recherche en ligne. Lorsque la Commission n’a pas engagé de procédure pour la même infraction, l’autorité compétente d’un État membre dans lequel se situe l’établissement principal du fournisseur de très grandes plateformes en ligne ou dans lequel est établi son représentant légal pourrait disposer des pouvoirs de surveillance et d’exécution des obligations prévues par le règlement.

Les pouvoirs de surveillance et d’exécution du Bureau de l’IA ne comprennent pas les systèmes d’IA mis sur le marché, mis en service ou utilisés par les institutions, organes ou organismes de l’Union, qui sont placés sous le contrôle du Contrôleur européen de la protection des données.

Les députés proposent d’allouer au Bureau de l’IA les ressources humaines, financières et techniques adéquates, ainsi que les infrastructures nécessaires à l’accomplissement de ses missions. En particulier, le Bureau de l’IA devrait disposer en permanence d’un personnel en nombre suffisant doté de compétences approfondies dont l’expertise comprenne une compréhension approfondie des technologies de l’IA.

Dans le cadre de la mise en œuvre et de l’application du règlement, le Bureau de l’IA devrait promouvoir l’innovation, la compétitivité et la protection des droits fondamentaux, en les prenant en considération dans l’exercice de ses fonctions.

Flexibilité

Afin d’éviter le chevauchement de l’application des règles sectorielles européennes en matière de sécurité des produits et de la législation sur l’IA, les députés soutiennent que les obligations au titre de la législation sur l’IA peuvent être moins strictes pour les produits déjà réglementés par des lois sectorielles (par exemple, les dispositifs médicaux, les équipements radioélectriques, la sécurité des jouets, etc.).

La Commission, le Bureau de l’IA et les autorités compétentes des États membres devraient veiller à ce que la surveillance, l’application et le suivi des législations sectorielles et nationales ne donnent pas lieu à des chevauchements, des interprétations incohérentes ou des divergences en matière d’exécution afin de permettre l’innovation en matière d’IA dans les secteurs privé et public.

Dates d'application fixes

Pour les systèmes d’IA à haut risque spécifiquement énumérés dans le règlement (notamment ceux impliquant la biométrie et ceux utilisés dans les infrastructures critiques, l'éducation, l'emploi, les services essentiels, les forces de l'ordre, la justice et la gestion des frontières), les députés proposent la date du 2 décembre 2027.

Pour les systèmes d’IA couverts par la législation sectorielle européenne sur la sécurité et la surveillance du marché, les députés proposent la date du 2 août 2028.

Les députés sont également favorables à donner aux fournisseurs un délai allant jusqu’au 2 novembre 2026 pour se conformer aux règles relatives au marquage numérique des contenus audio, image, vidéo ou des textes créés par l’IA afin d’indiquer leur origine.