L'Espagne envisage d'ouvrir une enquête pénale contre X, Meta et TikTok pour « pornification » via les outils d'IA
L'assistant d'IA Grok, propriété d'Elon Musk, a cristallisé la plupart des controverses et des contrôles réglementaires concernant les deepfakes à caractère sexuel, mais le premier ministre espagnol envisage un champ d'application plus large.
Le gouvernement espagnol a demandé au procureur général d’ouvrir une enquête pénale sur X, Meta et TikTok pour la création et la diffusion de deepfakes à caractère sexuel via les outils d’IA des réseaux sociaux, a annoncé le Premier ministre espagnol Pedro Sanchez sur X.
« Ces plateformes portent atteinte à la santé mentale, à la dignité et aux droits de nos fils et de nos filles », a-t-il déclaré.
X, la société d’Elon Musk, suscite une énorme controverse depuis la fin de l’année dernière, après que son assistant IA Grok ait été largement utilisé pour créer et diffuser de fausses images générées par IA qui dénudaient numériquement des femmes et des enfants.
L’enquête espagnole sur les deepfakes à caractère sexuel serait la première à s’étendre à Meta et TikTok, les régulateurs s’étant jusqu’à présent largement concentrés sur Grok et X.
« Ce gouvernement est fermement déterminé à défendre et à créer des environnements numériques sûrs sur les réseaux sociaux pour nos enfants », a déclaré mardi un porte-parole du gouvernement espagnol. « Ce que nous ne pouvons pas faire, c’est permettre à l’algorithme lui-même d’amplifier les dommages potentiels qui peuvent survenir et être subis par nos mineurs. »
Plusieurs pays de l’UE et régulateurs nationaux ont ouvert des enquêtes sur X en relation avec les productions de Grok. La Commission européenne a également lancé sa propre enquête en vertu du règlement de l’Union européenne sur la gouvernance en ligne, le Digital Services Act (DSA), fin janvier.
Lundi soir, la Commission irlandaise de protection des données, qui supervise X en vertu du règlement général sur la protection des données (RGPD) de l’Union européenne, a également ouvert une enquête sur Grok, qui est intégré à la plateforme de médias sociaux de Musk.
En janvier, le gouvernement britannique a signalé son soutien à une éventuelle interdiction de X en raison du scandale des deepfakes à caractère sexuel, une décision qui a suscité la colère de Musk, qui a fait valoir que Grok n’était pas le seul outil d’IA capable de produire des images à caractère sexuel.
Les législateurs du Parlement européen examinent également la possibilité d’inclure une interdiction générale des outils d’IA à caractère pornographique dans le cadre du paquet de simplification numérique de la Commission, qui réouvre certaines parties de la loi sur l’IA.
En outre, le Parlement et le Conseil sont également en pleine négociation sur la criminalisation à l’échelle européenne du matériel pédopornographique généré par l’IA.
Ines Fernandez-Pontes a contribué à cet article.
