Réseaux sociaux, jeunesse et IA

La Commission nationale consultative des droits de l’homme (CNCDH) a récemment publié un avis concernant la protection de l’intimité des jeunes sur Internet. Les jeunes sont particulièrement actifs sur les réseaux sociaux, utilisant ces plateformes pour s’informer, jouer, communiquer et partager des moments de leur vie à travers des messages, des photos et des vidéos. Cependant, cette exposition peut les amener à partager des contenus intimes, ce qui les rend vulnérables à des actes malveillants. En effet, les jeunes sont de plus en plus touchés par des atteintes à leur intimité en ligne. Cette situation est exacerbée par l’évolution de la cybercriminalité, qui est désormais accessible à un plus grand nombre de délinquants, grâce à l’essor des outils d’intelligence artificielle (IA) générative, capables de créer des textes, des images ou des contenus audio trompeurs. À l’issue d’une série d’auditions avec des représentants de plateformes et des acteurs de la protection de l’enfance, la CNCDH a constaté que les réponses des réseaux sociaux et des pouvoirs publics ne sont pas à la hauteur des risques auxquels les mineurs sont confrontés.

Les formes d’atteintes à l’intimité

Les atteintes à l’intimité des jeunes peuvent se manifester de plusieurs manières. Parmi celles-ci, on trouve le partage non consenti de photos ou de vidéos intimes, la création et la diffusion de deepfakes à caractère sexuel, l’exposition à des images à caractère sexuel sans consentement (cyberflashing), le grooming, qui consiste à manipuler un mineur en ligne pour qu’il se livre à des pratiques sexuelles, et la sextorsion, qui implique l’extorsion d’images intimes ou d’argent sous la menace de diffuser des contenus intimes. Selon les auditions menées par la CNCDH, bien que tous les jeunes puissent être concernés, la majorité des victimes de ces actes malveillants sont des filles. Ces cyberviolences, souvent de nature sexiste et sexuelle, peuvent également accroître la vulnérabilité des jeunes femmes, les exposant à des risques d’exploitation sexuelle et de prostitution.

Les recommandations de l’Assemblée générale des Nations Unies

Récemment, l’Assemblée générale des Nations Unies a souligné ces risques en adoptant une résolution sur la prévention et l’élimination de toutes les formes de violence à l’égard des femmes et des filles dans l’environnement numérique. Ce texte appelle les États à mieux protéger les droits des femmes et des filles en ligne et à lutter contre l’impunité des agresseurs. Il exhorte également les acteurs du numérique, notamment les plateformes, à intensifier leurs efforts pour supprimer les contenus relatifs à des actes de violence sexuelle et fondée sur le genre. La CNCDH a salué le travail de la diplomatie française qui a contribué à cette résolution.

Le cadre légal en France

À l’exception du cyberflashing, les violences sexuelles et sexistes mentionnées précédemment sont déjà incriminées par le droit français. La dernière mise à jour du code pénal, issue de la loi visant à sécuriser et réguler l’espace numérique (loi SREN), adoptée en mai 2024, a renforcé l’arsenal répressif concernant les violences sexuelles en ligne, en y intégrant la sextorsion et la diffusion de deepfakes à caractère sexuel. Cependant, cette loi n’a pas prévu de traitement spécifique pour les victimes mineures. De plus, elle a introduit, dès le collège, une sensibilisation aux violences sexistes et sexuelles en ligne dans le cadre de l’éducation à l’utilisation des outils numériques.

Réglementation européenne et protection des mineurs

En dehors du cadre pénal, la protection des mineurs en ligne repose en grande partie sur la réglementation européenne, notamment le règlement de l’UE sur les services numériques (DSA) adopté en 2022. Ce règlement vise à garantir un niveau élevé de protection de la vie privée et de la sécurité des mineurs sur les plateformes en ligne. L’article 28 impose aux fournisseurs de ces services de mettre en place des mesures appropriées pour assurer cette protection.

Les efforts des réseaux sociaux

Les auditions ont révélé que certains des réseaux sociaux les plus populaires auprès des jeunes prennent au sérieux les enjeux de protection et mettent en œuvre des mesures pour protéger les mineurs. Ces mesures incluent des restrictions sur les échanges de contenus et l’élargissement des réseaux de relations. Cependant, ces dispositifs sont souvent inefficaces en raison de l’incapacité à vérifier l’âge des utilisateurs. De plus, les jeunes, en particulier ceux âgés de 13 à 18 ans, peuvent être tentés de se déclarer majeurs pour contourner ces restrictions.

Consultation de la Commission européenne

Le 31 juillet 2024, la Commission européenne a lancé une consultation auprès des parties prenantes pour élaborer des lignes directrices concernant la mise en œuvre de l’article 28 du DSA. Parallèlement, la Commission a relancé sa stratégie pour un Internet plus sûr pour les enfants, qui repose sur deux réseaux d’actions : Insafe, qui accompagne les jeunes et les professionnels dans la prévention des risques, et Inhope, qui coordonne les plateformes de signalement.

Le volet français du programme BIK

Le volet français de cette initiative, intitulé « Safer Internet France », repose sur trois partenaires : Tralalere, qui produit des programmes éducatifs et des campagnes de sensibilisation, Point de contact, qui gère une plateforme de signalement de contenus illicites, et e-Enfance, qui aide les jeunes victimes de harcèlement et de violences numériques. Bien que cet écosystème soit en place, il reste insuffisant pour répondre aux besoins des jeunes et manque de clarté.

Les enjeux de la protection de l’intimité des jeunes

La CNCDH a décidé de se pencher sur les atteintes à l’intimité des jeunes en ligne, cherchant à établir un équilibre entre la protection des enfants et le respect de leur vie privée. Deux écueils se présentent : d’une part, un encadrement trop strict qui pourrait entraver la liberté des jeunes dans leurs relations en ligne, et d’autre part, des mesures de protection qui pourraient porter atteinte aux libertés de tous les utilisateurs.

Les droits et obligations des mineurs

La protection de l’intimité des jeunes en ligne nécessite de les informer sur leurs droits et obligations, tout en leur fournissant l’aide nécessaire en cas de victimisation. Il est crucial de renforcer la sensibilisation aux violences sexuelles et sexistes, tant en ligne qu’hors ligne, ce qui implique une éducation à la vie affective, sexuelle et relationnelle à tous les âges. Les réseaux sociaux doivent également améliorer la protection des mineurs en alignant leurs paramètres par défaut sur des normes de protection élevées et en participant à des programmes de détection des contenus intimes.

La vigilance des autorités face aux deepfakes

Les autorités doivent rester vigilantes face à la montée des deepfakes à caractère sexuel et limiter les systèmes d’intelligence artificielle qui pourraient en générer. Une réponse pénale appropriée est essentielle pour sanctionner les auteurs de violences sexistes et sexuelles, contribuant ainsi à dissuader de tels comportements.

Prévenir les violences sexuelles en ligne

Les violences sexuelles en ligne sont encore trop peu abordées dans le discours public et scolaire. Les jeunes doivent être sensibilisés aux risques qu’ils encourent sur les réseaux sociaux, tout en étant informés des comportements répréhensibles qu’ils pourraient adopter. La CNCDH recommande d’informer les élèves sur ces violences en début d’année scolaire, en complément des sensibilisations au harcèlement.

Impliquer les parents dans la sensibilisation

Il est également recommandé d’informer les parents sur les violences sexuelles en ligne lors des réunions scolaires, en utilisant divers canaux de communication. Les séances d’information doivent encourager un dialogue ouvert entre parents et enfants sur les pratiques en ligne, le consentement et l’importance de demander de l’aide.

Former les professionnels

La CNCDH suggère de développer des formations sur les bonnes pratiques numériques pour les professionnels, afin de sensibiliser les parents aux risques auxquels leurs enfants sont exposés. Une campagne nationale de sensibilisation aux risques de sextorsion et de violences sexuelles en ligne est également préconisée, avec des messages adaptés à différents âges.

Prise en charge des victimes

Concernant la prise en charge des jeunes victimes d’abus sexuels en ligne, il est essentiel de créer un environnement de soutien. La ligne d’écoute « 30 18 » doit être renforcée pour répondre à la demande croissante d’assistance. Les pouvoirs publics doivent également alerter sur la prévalence des violences sexuelles et sexistes en ligne, qui s’inscrivent dans un cadre plus large de stéréotypes de genre.

Éducation à la sexualité et à la vie affective

L’éducation à la sexualité et à la vie affective doit être renforcée dans les écoles, car de nombreux élèves ne bénéficient pas de ces enseignements. La CNCDH rappelle que cette éducation est essentielle pour respecter les droits des enfants et pour répondre aux enjeux de santé publique liés aux atteintes à l’intimité en ligne.

Recommandations du CESE

Le Conseil économique, social et environnemental (CESE) a également formulé des recommandations sur l’éducation à la vie affective et relationnelle, préconisant un volume horaire annuel d’au moins 30 heures dès le collège. La CNCDH soutient ces recommandations et appelle à une politique publique dédiée à l’éducation à la vie affective et relationnelle.

Contenu de l’éducation à la vie affective

Le contenu de cette éducation doit insister sur le respect du consentement, la culture de l’égalité et la déconstruction des stéréotypes de genre. Il est crucial d’intégrer les pratiques en ligne dans les séances d’éducation à la vie affective, tout en abordant les cyberviolences.

Intervenants extérieurs et financement des associations

La CNCDH recommande de faire appel à des intervenants extérieurs pour animer les séances d’éducation à la vie affective, tout en soutenant financièrement les associations qui œuvrent dans ce domaine. Ces associations doivent bénéficier d’un financement pérenne pour assurer leur fonctionnement.

Ressources numériques pour l’éducation

Le Conseil national numérique (CNNum) a également souligné l’importance des ressources numériques pour l’éducation à la vie affective. Il est essentiel de garantir l’accès à des contenus positifs et éducatifs en ligne, tout en luttant contre l’invisibilisation de ces ressources.

Paramétrage des contenus en ligne

La CNCDH recommande de protéger les contenus d’éducation à la vie affective contre l’invisibilisation et de mettre en avant les comptes qui promeuvent l’égalité des genres. De plus, il est nécessaire d’assurer un meilleur accès à ces contenus pour renforcer l’autonomie des jeunes face aux algorithmes des plateformes.

Mesures de protection des mineurs

Les mesures de protection des mineurs doivent être adaptées et proportionnées, afin de ne pas porter atteinte à leurs droits fondamentaux. La CNCDH suit de près les travaux de l’Arcom sur la vérification de l’âge pour l’accès à des contenus pornographiques, tout en soulignant les risques associés à une généralisation de ces contrôles.

Uniformisation des dispositifs de signalement

La CNCDH recommande d’uniformiser les dispositifs de signalement entre les différentes plateformes pour éviter la confusion chez les utilisateurs. Les réseaux sociaux doivent également répondre rapidement aux demandes de suppression de contenus intimes.

Technologies de hachage pour la protection des contenus

Le développement de technologies de hachage, notamment les hachages perceptuels, représente une option prometteuse pour lutter contre la diffusion non consentie de contenus intimes. Ces technologies permettent de détecter et de retirer rapidement des contenus similaires.

Initiatives existantes pour la protection des jeunes

Des initiatives telles que « Take it down » aux États-Unis et « Disrupt » en France visent à aider les jeunes à retirer des contenus intimes en ligne. La CNCDH recommande de soutenir ces initiatives et d’améliorer leur visibilité.

Encadrement de l’utilisation de l’IA

Concernant l’utilisation de l’IA, il est crucial de distinguer entre l’IA générative et les deepfakes. La CNCDH appelle à une transparence accrue et à des mesures pour limiter la production de deepfakes à caractère sexuel, en particulier ceux mettant en scène des enfants.

Conclusion sur la régulation de l’IA

Enfin, la CNCDH recommande le déférencement des sites et applications dédiés aux deepfakes à caractère sexuel, ainsi que le blocage des applications qui dénudent numériquement des individus sans leur consentement. Ces mesures visent à protéger les jeunes et à garantir leur sécurité en ligne.

Quel est l’avis de la CNCDH concernant la protection de l’intimité des jeunes sur Internet ?

La Commission nationale consultative des droits de l’homme (CNCDH) a publié un avis sur la protection de l’intimité des jeunes sur Internet, soulignant leur vulnérabilité face à des atteintes à leur intimité en ligne.

Les jeunes, très actifs sur les réseaux sociaux, partagent souvent des contenus intimes, ce qui les expose à des actes malveillants.

L’évolution de la cybercriminalité, facilitée par l’essor des outils d’intelligence artificielle (IA) générative, aggrave cette situation.

Quelles sont les formes d’atteintes à l’intimité des jeunes ?

Les atteintes à l’intimité des jeunes se manifestent de plusieurs manières, notamment par le partage non consenti de photos ou de vidéos intimes.

On observe également la création et la diffusion de deepfakes à caractère sexuel, le cyberflashing, le grooming et la sextorsion.

La majorité des victimes de ces actes malveillants sont des filles, ce qui accentue leur vulnérabilité face à l’exploitation sexuelle.

Quelles recommandations a formulées l’Assemblée générale des Nations Unies ?

L’Assemblée générale des Nations Unies a adopté une résolution pour prévenir et éliminer toutes les formes de violence à l’égard des femmes et des filles dans l’environnement numérique.

Cette résolution appelle les États à mieux protéger les droits des femmes et des filles en ligne et à lutter contre l’impunité des agresseurs.

Elle exhorte également les plateformes numériques à intensifier leurs efforts pour supprimer les contenus relatifs à des actes de violence sexuelle.

Quel est le cadre légal en France concernant les violences sexuelles en ligne ?

En France, les violences sexuelles et sexistes, à l’exception du cyberflashing, sont déjà incriminées par le droit.

La loi SREN, adoptée en mai 2024, a renforcé l’arsenal répressif concernant les violences sexuelles en ligne, intégrant la sextorsion et la diffusion de deepfakes.

Cependant, cette loi n’a pas prévu de traitement spécifique pour les victimes mineures.

Comment la réglementation européenne protège-t-elle les mineurs en ligne ?

La protection des mineurs en ligne repose en grande partie sur la réglementation européenne, notamment le règlement de l’UE sur les services numériques (DSA) adopté en 2022.

Ce règlement vise à garantir un niveau élevé de protection de la vie privée et de la sécurité des mineurs sur les plateformes en ligne.

L’article 28 impose aux fournisseurs de ces services de mettre en place des mesures appropriées pour assurer cette protection.

Quels efforts sont déployés par les réseaux sociaux pour protéger les mineurs ?

Certains réseaux sociaux populaires prennent au sérieux les enjeux de protection et mettent en œuvre des mesures pour protéger les mineurs.

Ces mesures incluent des restrictions sur les échanges de contenus et l’élargissement des réseaux de relations.

Cependant, ces dispositifs sont souvent inefficaces en raison de l’incapacité à vérifier l’âge des utilisateurs.

Quelle est la consultation lancée par la Commission européenne ?

Le 31 juillet 2024, la Commission européenne a lancé une consultation auprès des parties prenantes pour élaborer des lignes directrices concernant la mise en œuvre de l’article 28 du DSA.

Parallèlement, la Commission a relancé sa stratégie pour un Internet plus sûr pour les enfants, reposant sur deux réseaux d’actions : Insafe et Inhope.

Ces réseaux visent à accompagner les jeunes et les professionnels dans la prévention des risques.

Qu’est-ce que le programme « Safer Internet France » ?

Le programme « Safer Internet France » repose sur trois partenaires : Tralalere, Point de contact et e-Enfance.

Tralalere produit des programmes éducatifs et des campagnes de sensibilisation, tandis que Point de contact gère une plateforme de signalement de contenus illicites.

E-Enfance aide les jeunes victimes de harcèlement et de violences numériques, mais l’écosystème reste insuffisant pour répondre aux besoins des jeunes.

Quels sont les enjeux de la protection de l’intimité des jeunes ?

La CNCDH cherche à établir un équilibre entre la protection des enfants et le respect de leur vie privée.

Deux écueils se présentent : un encadrement trop strict qui pourrait entraver la liberté des jeunes et des mesures de protection qui pourraient porter atteinte aux libertés de tous les utilisateurs.

Il est essentiel de trouver des solutions adaptées.

Comment informer les jeunes sur leurs droits et obligations en ligne ?

Il est crucial d’informer les jeunes sur leurs droits et obligations en ligne, tout en leur fournissant l’aide nécessaire en cas de victimisation.

Renforcer la sensibilisation aux violences sexuelles et sexistes, tant en ligne qu’hors ligne, est essentiel.

Cela implique une éducation à la vie affective, sexuelle et relationnelle à tous les âges.

Quelle vigilance doivent avoir les autorités face aux deepfakes ?

Les autorités doivent rester vigilantes face à la montée des deepfakes à caractère sexuel et limiter les systèmes d’intelligence artificielle qui pourraient en générer.

Une réponse pénale appropriée est essentielle pour sanctionner les auteurs de violences sexistes et sexuelles.

Cela contribue à dissuader de tels comportements.

Comment prévenir les violences sexuelles en ligne ?

Les violences sexuelles en ligne doivent être davantage abordées dans le discours public et scolaire.

Les jeunes doivent être sensibilisés aux risques qu’ils encourent sur les réseaux sociaux et informés des comportements répréhensibles.

La CNCDH recommande d’informer les élèves sur ces violences en début d’année scolaire.

Comment impliquer les parents dans la sensibilisation ?

Il est recommandé d’informer les parents sur les violences sexuelles en ligne lors des réunions scolaires.

Utiliser divers canaux de communication peut encourager un dialogue ouvert entre parents et enfants sur les pratiques en ligne.

Cela inclut le consentement et l’importance de demander de l’aide.

Quelle formation est suggérée pour les professionnels ?

La CNCDH suggère de développer des formations sur les bonnes pratiques numériques pour les professionnels.

Cela vise à sensibiliser les parents aux risques auxquels leurs enfants sont exposés.

Une campagne nationale de sensibilisation aux risques de sextorsion et de violences sexuelles en ligne est également préconisée.

Comment prendre en charge les victimes d’abus sexuels en ligne ?

Il est essentiel de créer un environnement de soutien pour les jeunes victimes d’abus sexuels en ligne.

La ligne d’écoute « 30 18 » doit être renforcée pour répondre à la demande croissante d’assistance.

Les pouvoirs publics doivent alerter sur la prévalence des violences sexuelles et sexistes en ligne.

Pourquoi renforcer l’éducation à la sexualité et à la vie affective ?

L’éducation à la sexualité et à la vie affective doit être renforcée dans les écoles, car de nombreux élèves ne bénéficient pas de ces enseignements.

Cette éducation est essentielle pour respecter les droits des enfants et répondre aux enjeux de santé publique.

Elle est également cruciale pour lutter contre les atteintes à l’intimité en ligne.

Quelles recommandations a formulées le CESE sur l’éducation à la vie affective ?

Le Conseil économique, social et environnemental (CESE) a recommandé un volume horaire annuel d’au moins 30 heures d’éducation à la vie affective dès le collège.

La CNCDH soutient ces recommandations et appelle à une politique publique dédiée à cette éducation.

Cela vise à sensibiliser les jeunes aux enjeux relationnels et affectifs.

Quel contenu doit inclure l’éducation à la vie affective ?

Le contenu de l’éducation à la vie affective doit insister sur le respect du consentement, la culture de l’égalité et la déconstruction des stéréotypes de genre.

Il est crucial d’intégrer les pratiques en ligne dans les séances d’éducation à la vie affective.

Cela inclut également l’aborder des cyberviolences.

Comment soutenir les intervenants extérieurs et les associations ?

La CNCDH recommande de faire appel à des intervenants extérieurs pour animer les séances d’éducation à la vie affective.

Il est également important de soutenir financièrement les associations qui œuvrent dans ce domaine.

Ces associations doivent bénéficier d’un financement pérenne pour assurer leur fonctionnement.

Quelle est l’importance des ressources numériques pour l’éducation ?

Le Conseil national numérique (CNNum) souligne l’importance des ressources numériques pour l’éducation à la vie affective.

Il est essentiel de garantir l’accès à des contenus positifs et éducatifs en ligne.

Cela inclut la lutte contre l’invisibilisation de ces ressources.

Comment protéger les contenus d’éducation à la vie affective ?

La CNCDH recommande de protéger les contenus d’éducation à la vie affective contre l’invisibilisation.

Il est également nécessaire de mettre en avant les comptes qui promeuvent l’égalité des genres.

Cela vise à renforcer l’autonomie des jeunes face aux algorithmes des plateformes.

Quelles mesures de protection des mineurs doivent être mises en place ?

Les mesures de protection des mineurs doivent être adaptées et proportionnées pour ne pas porter atteinte à leurs droits fondamentaux.

La CNCDH suit de près les travaux de l’Arcom sur la vérification de l’âge pour l’accès à des contenus pornographiques.

Elle souligne les risques associés à une généralisation de ces contrôles.

Pourquoi uniformiser les dispositifs de signalement ?

La CNCDH recommande d’uniformiser les dispositifs de signalement entre les différentes plateformes pour éviter la confusion chez les utilisateurs.

Les réseaux sociaux doivent également répondre rapidement aux demandes de suppression de contenus intimes.

Cela contribue à une meilleure protection des jeunes en ligne.

Comment les technologies de hachage peuvent-elles aider à protéger les contenus ?

Le développement de technologies de hachage, notamment les hachages perceptuels, représente une option prometteuse pour lutter contre la diffusion non consentie de contenus intimes.

Ces technologies permettent de détecter et de retirer rapidement des contenus similaires.

Elles sont essentielles pour protéger l’intimité des jeunes.

Quelles initiatives existent pour aider les jeunes à retirer des contenus intimes en ligne ?

Des initiatives telles que « Take it down » aux États-Unis et « Disrupt » en France visent à aider les jeunes à retirer des contenus intimes en ligne.

La CNCDH recommande de soutenir ces initiatives et d’améliorer leur visibilité.

Cela peut contribuer à une meilleure protection des jeunes.

Comment encadrer l’utilisation de l’IA ?

Concernant l’utilisation de l’IA, il est crucial de distinguer entre l’IA générative et les deepfakes.

La CNCDH appelle à une transparence accrue et à des mesures pour limiter la production de deepfakes à caractère sexuel.

Cela est particulièrement important pour protéger les enfants.

Quelles sont les recommandations finales de la CNCDH sur la régulation de l’IA ?

La CNCDH recommande le déférencement des sites et applications dédiés aux deepfakes à caractère sexuel.

Elle préconise également le blocage des applications qui dénudent numériquement des individus sans leur consentement.

Ces mesures visent à protéger les jeunes et à garantir leur sécurité en ligne.