Incidence des médias sociaux et de l'environnement en ligne sur les jeunes
Le Parlement européen a adopté par 395 voix pour, 136 contre et 80 abstentions, une résolution sur l’influence des médias sociaux et de l’environnement en ligne sur les jeunes.
Le Parlement a souligné que, pour traiter la question des répercussions des médias sociaux sur les jeunes, une stratégie européenne intégrée est nécessaire qui:
- associe sécurité dès la conception et par défaut, protection de la vie privée par défaut, conception adaptée à l’âge, transparence algorithmique et mécanismes de vérification de l’âge donnant la priorité au respect de la vie privée,
- renforce le bien-être mental, une éducation aux médias et au numérique,
- inclue les familles, les écoles et les acteurs du système éducatif.
Cadre juridique de l’Union
Le Parlement a souligné l’importance de veiller à l’efficacité et à la cohérence de la mise en œuvre, du contrôle de l’application, de la constance et de la complémentarité des principaux instruments juridiques de l’Union, tels que la directive «Services de médias audiovisuels» (SMA), le règlement général sur la protection des données (RGPD), le règlement sur les services numériques (DSA), la directive sur les pratiques commerciales déloyales, le règlement sur l’intelligence artificielle et le futur règlement sur l’équité numérique, afin de bâtir un cadre intégré de protection des enfants en ligne. Il a appelé à harmoniser les mesures nationales afin d’éviter la fragmentation de la protection de l’enfant dans l’Union et de renforcer la coopération et le partage d’informations entre les autorités nationales compétentes et la Commission.
Les députés ont invité la Commission, dans le cadre du futur règlement sur l’équité numérique, à recenser et à combler les lacunes réglementaires pertinentes existantes, en particulier en ce qui concerne les caractéristiques de conception addictives et trompeuses des services numériques, dont les interfaces truquées, les pratiques en matière de publicité personnalisée, le neuromarketing, les boîtes à butin, les monnaies intégrées aux jeux vidéo et les pratiques commerciales déloyales des influenceurs.
Le Parlement a invité la Commission à faire respecter les obligations prévues par le règlement sur l’IA, notamment au moyen de l’étiquetage des contenus générés par l’IA. Il a demandé aux plateformes en ligne de mettre en œuvre des procédures rapides aux fins de supprimer les contenus falsifiés ou préjudiciables.
Les États membres et les plateformes en ligne sont invités à veiller à ce que les cadres d’évaluation et d’étiquetage des produits d’IA tiennent dûment compte de l’incidence sur les droits des jeunes utilisateurs et leur santé mentale. La résolution a souligné la nécessité d’une réglementation claire ainsi que de normes éthiques contraignantes en matière de conception et d’utilisation des «compagnons d’IA» capables de déployer des techniques de manipulation ou d’exploiter les vulnérabilités émotionnelles des mineurs. Elle a mis en garde contre le fait que les interactions avec ces outils ont, dans un certain nombre de cas, contribué à des suicides.
Préjugés sexistes et discrimination dans les systèmes d’IA
Les ensembles de données d’entraînement de l’IA reflètent souvent des stéréotypes bien ancrés, ce qui se traduit par des algorithmes de recommandation et des systèmes de gestion de contenus biaisés, y compris la promotion de communautés misogynes, d’images sexualisées générées par l’IA, de contenus pro-anorexie et d’automutilation. Le Parlement a demandé un audit systématique des données d’entraînement et des produits algorithmiques à l’aide d’indicateurs tenant compte de la dimension de genre, ainsi que des essais fondés sur des scénarios afin d’examiner la manière dont les systèmes de recommandation exposent les mineurs à ce type de contenu. Il a demandé aux plateformes de démontrer qu’elles ont pris des mesures aux fins d’empêcher la prolifération de contenus préjudiciables.
Le Parlement a recommandé, entre autres:
- d’élaborer des lignes directrices sur l’utilisation des systèmes d’IA ayant une incidence sur les enfants;
- de renforcer les mesures d’atténuation à l’égard des escroqueries et fraudes, notamment des mesures spécifiques contre les escroqueries liées à des célébrités;
- d’interdire explicitement les systèmes d’IA qui génèrent, manipulent ou modifient des images ou des vidéos réalistes représentant des activités sexuellement explicites ou les parties intimes d’une personne physique identifiable sans le consentement de celle-ci, ainsi que les contenus artificiels relatifs à des abus sexuels sur enfants;
- d’obliger les plateformes en ligne à garantir une réponse rapide et proportionnée face aux contenus et aux comportements liés au cyberharcèlement et à atténuer l’incidence de la conception addictive et persuasive en mettant en œuvre des garanties fondées sur les risques pour les systèmes de recommandation, ainsi que des mesures visant à interdire les pratiques les plus addictives;
- d’élaborer un code de conduite à l’échelle de l’Union pour les influenceurs, notamment des engagements en faveur d’une publicité responsable à l’égard des mineurs, ainsi que d’établir une définition harmonisée du «marketing des influenceurs».
Contenu préjudiciable, vérification de l’âge et protection des mineurs
Les députés regrettent que plusieurs mécanismes utilisés par les plateformes en ligne pour contrôler l’accès à leurs services, tels que l’autodéclaration, soient facilement contournés et que les mineurs continuent d’avoir largement accès à des contenus inadaptés à leur âge. Ils ont souligné la nécessité de disposer d’outils de vérification efficaces, respectueux de la vie privée et conformes aux droits de l’enfant afin de vérifier l’âge d’un utilisateur lorsque cela est nécessaire, sans collecte ni conservation de données à caractère personnel.
Le Parlement s’est félicité de l’avis favorable exprimé par la présidente de la Commission quant à l’instauration d’un âge minimum harmonisé à l’échelle de l’Union pour l’accès aux médias sociaux (un âge minimum numérique). Il a souligné la nécessité d’une approche harmonisée au niveau de l’Union pour établir un âge minimum numérique.
Éducation, compétences numériques et éducation aux médias
Les députés ont souligné le rôle clé de l’éducation pour doter les enfants et les jeunes des compétences en matière de culture numérique, médiatique et de l’IA nécessaires pour naviguer efficacement et en toute sécurité sur les réseaux sociaux et dans les environnements en ligne. Ils ont invité les États membres à envisager l’introduction de règles claires concernant l’utilisation des appareils mobiles à l’école, en particulier dans les écoles maternelles et primaires, qui peuvent comprendre des exceptions pour des raisons pédagogique.
Soulignant la nécessité d’une transparence accrue des systèmes algorithmiques des médias sociaux, le Parlement s’est dit favorable à l’introduction pour les plateformes en ligne d’un «mode jeunesse», qui désactive la publicité ciblée et limite les caractéristiques de conception addictive pour les mineurs.