Comment la technologie est utilisée comme une arme contre les femmes

Les propriétaires des principalesplateformes numériques prétendent soutenir l’autonomisation des femmes et promouvoir leurs droits, mais cela fait à peine un an que les PDG des géants de la technologie se sont précipités pour satisfaire le président américain Donald Trump en faisant volte-face du jour au lendemain sur les initiatives en faveur de la diversité. Mark Zuckerberg, de Meta, a ainsi suggéré que la culture d’entreprise avait besoin de plus d’«énergie masculine ».

Il n’est donc pas surprenant que la toxicité et la misogynie en ligne soient au cœur des derniers scandales technologiques. L’outil d’IA Grok d’Elon Musk a été largement utilisé pour déshabiller numériquement des femmes et des filles ; les lunettes Ray-Ban AI de Meta ont été utilisées pour filmer sans leur consentement des femmes en situation de déshabillage.

Ces deux exemples soulignent à quel point les outils numériques et les espaces en ligne restent dangereux pour les femmes. Cela s’est produit malgré l’objectif de l’UE de créer des règles numériques qui protègent les femmes.

Le récent rapport de la Commission européenne sur l’égalité des sexes a souligné que les femmes sont exposéesde manière disproportionnéeà la violence sexiste en ligne,notamment par le biais du harcèlement, de la traque, du doxing (divulgation d’informations personnelles), de la création et du partaged’images intimesnon consenties, et des deepfakes générés par l’IA, y compris des images photoréalistes à caractère sexuel ou pornographique. 

La stratégie de la Commission pour l’égalité entre les femmes et les hommes 2026-2030 indique que 98 % de tous les deepfakes en ligne sont de nature pornographique et que 99 % d’entre eux représentent des femmes.

Règles de gouvernance numérique

Les plateformes en ligne sont réglementées dans l’UE par la loi sur les services numériques (DSA), qui vise à rendre les géants de la technologie responsables de la gouvernance du contenu sur leurs plateformes. Cela implique notamment de veiller à ce que leurs algorithmes, leurs outils d’IA et leurs deepfakes viraux ne nuisent pas aux femmes.

Mais les entreprises technologiques ont toujours créé des outils qui rendent les espaces en ligne dangereux pour les femmes. La DSA n’a rien changé à cela.

Avant Grok, il existait des outils de génération d’avatars IA qui produisaient des portraits de femmes inopinément sexualisés d’une simple pression sur un bouton. Les filtres beauté de Snapchat appliquaient des normes hyperféminines qui encouragent la dysmorphie corporelle. L’algorithme d’Instagram amplifie les selfies en maillot de bain.

À l’approche de la Journée internationale des femmes, la commissaire européenne chargée des technologies, Henna Virkkunen, a déclaré à Euractiv que « les espaces numériques doivent être des espaces sûrs ». Elle a toutefois reconnu que la violence en ligne fondée sur le genre et la cyberviolence continuent de constituer « une menace croissante ».

Si la commissaire a insisté sur le fait que l’égalité des sexes et la protection, tant en ligne que hors ligne, « ne sont pas facultatives », la réalité pour les femmes de l’UE en ligne est loin de correspondre au discours de Mme Virkkunen.

Citant des exemples récents tels que les lunettes intelligentes de Meta, la députée verte Alexandra Geese a affirmé que « les géants de la technologie se sont retournés contre les femmes ». Elle a déclaré que le message que les géants de la technologie envoient aux femmes est clair : « Quittez le débat politique. Tais-toi ».

Magdalena Maier, chercheuse au CDT Europe (une organisation de la société civile numérique), a déclaré à Euractiv que le cadre législatif de l’UE « offre une base solide » pour couvrir les deepfakes non consensuels générés par l’IA. Mais elle a souligné « des lacunes importantes » dans la lutte contre la « génération de tels contenus », ajoutant que l’application de la loi reste un problème. 

Pendant ce temps, l’« innovation » technologique continue de progresser.

Des lunettes intelligentes pour enregistrer les femmes

Les lunettes intelligentes alimentées par l’IA sont de plus en plus répandues, car elles sont suffisamment discrètes pour passer pour des lunettes ordinaires.

Sur les réseaux sociaux, les « artistes de la drague » ont rapidement commencé à les utiliser pour améliorer leur contenu. La BBC s’est entretenue avec deux femmes qui ont raconté avoir été abordées en public par un homme portant des lunettes et avoir ensuite découvert des vidéos de leurs interactions, filmées à leur insu par une caméra intégrée, circulant sur les réseaux sociaux, où des milliers d’internautes avaient également publié des commentaires désobligeants et sexuellement explicites.

Geese a déclaré à Euractivque ces outils donnaient aux hommes « la possibilité technique de transformer les femmes en objets sexuels… au lieu d’êtres humains jouissant des mêmes droits ».

Meta Lab. Myung J. Chun / Los Angeles Times via Getty Images

Meta, l’une des principales entreprises technologiques commercialisant des lunettes intelligentes, affirme qu’un voyant LED situé sur la monture de l’appareil indique clairement quand il est en mode enregistrement.

Mais une récente enquête menée par les médias suédois a révélé que les lunettes de Meta enregistraient des personnes à leur insu et sans leur consentement. Les appareils envoyaient les images à un sous-traitant tiers au Kenya, et un membre du personnel a déclaré aux journalistes avoir vu des personnes dans des situations intimes, citant l’exemple d’une femme qui se changeait dans une chambre où les lunettes avaient été laissées.

Grok déshabillant des femmes 

Au début de l’année, l’outil d’IA controversé d’Elon Musk, Grok, intégré à sa plateforme de médias sociaux X, a provoqué un scandale mondial après avoir inondé le service d’images sexualisées de femmes et d’enfants.

La Commission a réagi en lançant une enquête DSA sur Grok en relation avec la diffusion d’images pornographiques via X. M. Virkkunen a souligné que «les deepfakes utilisant des images intimes non consenties [sont] illégaux ». L’enquête examinera comment Grok atténue les risquesliés à la diffusion d’« images sexuellement explicites manipulées ».

Pourtant, Grok n’est que le dernier d’une série d’outils d’IA qui effectuent la nudification, de nombreuses applications d’IA étant conçues dans le but explicite de déshabiller numériquement les femmes. X a qualifié la fonction de nudification de « mode épicé », dans le but de normaliser l’abus numérique.

Ces outils restent une préoccupation majeure pour les législateurs européens, plusieurs députés européens espérant inclure une interdiction potentielle dans un autre règlement européen, l’AI Act, qui n’interdit pas actuellement la nudification par IA.

Mais le DSA devrait être un outil « de première ligne » pour lutter contre la diffusion d’images intimes non consenties, qu’elles soient générées par l’IA ou non, a déclaré Marie Seck, chercheuse au CDT Europe.

Le règlement de l’UE sur la gouvernance en ligne contient déjà des « obligations claires » pour les plateformes en ligne lorsque leur « interface est défaillante », a-t-elle déclaré, suggérant que ces règles auraient dû empêcher dès le départ le déploiement de fonctionnalités nuisibles telles que Grok.

Que va faire l’UE ? 

Mme Virkkunen a déclaré à Euractiv queson département « intensifiait » les discussions avec les entreprises technologiques afin de renforcer la « coopération et la conformité » dans le cadre du DSA.

La Commission publiera prochainement des lignes directrices à l’intention des plateformes sur les « signaleurs de confiance » (des organisations indépendantes agréées dont les signalements de contenus illégaux doivent être traités en priorité), dans le but de renforcer leur « capacité » à signaler la cyberviolence sexiste en ligne, a-t-elle également déclaré.

Dans le cas des lunettes intelligentes de Meta,l’autorité irlandaise de protection de la vie privée, chargée de ve illerau respect par le géanttechnologiquedu règlement général sur la protection des données de l’UE, a déclaré à Euractiv qu’elle considérait la question de la sensibilisation des témoins au fait qu’ils sont filmés comme une priorité pourles appareils portables.

Mais l’autorité de contrôle irlandaise n’a pas encore annoncé d’enquête officielle, bien qu’elle soit en contact avec Meta au sujet de ses lunettes intelligentes depuis septembre 2021.