Elon Musk limite Grok après le scandale des deepfakes pornographiques

Dans une annonce publiée jeudi 15 janvier sur X, propriété d’Elon Musk, a déclaré qu’elle empêcherait les utilisateurs d’utiliser Grok pour générer des images de « personnes réelles » dénudées.

« Nous avons mis en place des mesures technologiques pour empêcher le compte Grok de permettre la modification d’images de personnes réelles portant des vêtements révélateurs tels que des bikinis », peut-on lire dans le communiqué. « Cette restriction s’applique à tous les utilisateurs, y compris les abonnés payants. »

Cette décision fait suite à une polémique internationale et à un examen réglementaire, notamment par l’Union européenne, après que l’outil ait produit des images sexualisées de femmes et d’enfants, des contenus jugés « illégaux » par la Commission européenne.

La société d’Elon Musk a d’abord réagi à l’indignation en déclarant qu’elle limiterait la fonctionnalité de déshabillage de Grok aux abonnés payants. Cependant, jeudi 15 janvier, xAI a semblé aller plus loin, empêchant les utilisateurs payants d’utiliser l’outil pour déshabiller les femmes et les enfants également.

Il convient de noter que la déclaration de xAI précise que la restriction élargie des capacités de manipulation d’images de Grok s’applique « via le compte Grok sur la plateforme X ».

Elle ne mentionne aucune modification de l’application autonome de Grok, où l’outil est également accessible, et ne précise pas si les nouvelles restrictions s’y appliquent. Mais X a confié à Euractiv qu’il bloquait géographiquement la fonctionnalité pour les utilisateurs autonomes de Grok « dans les juridictions où elle est illégale ».

Réagissant à ces changements, le porte-parole de la Commission pour les questions numériques, Thomas Regnier, a indiqué à Euractiv que l’exécutif prenait « note des mesures supplémentaires prises par X pour interdire à Grok de générer des images sexualisées de femmes et d’enfants ».

Mercredi 14 janvier, Elon Musk avait affirmé que Grok ne produisait aucune image d’enfants nus. La déclaration officielle de X ne fait pas référence à ces commentaires, mais réitère que la plateforme applique une « tolérance zéro » à toute forme d’exploitation sexuelle des enfants.

Dans le communiqué, on peut lire que X « prend des mesures pour supprimer » ce type de contenu, y compris les contenus pédopornographiques (CSAM).

Jusqu’à présent, la Commission a demandé à X de conserver tous les enregistrements internes liés à Grok jusqu’à la fin de 2026, mais n’a pas ouvert d’enquête officielle en vertu des pouvoirs qui lui sont conférés par le règlement sur les services numériques (Digital Services Act, DSA), tandis que l’autorité de régulation britannique Ofcom a confirmé jeudi qu’elle poursuivrait son enquête sur l’outil d’IA en vertu de la loi britannique sur la sécurité en ligne.

En attendant, la Commission reste vigilante. « Si ces changements ne sont pas efficaces, la Commission n’hésitera pas à utiliser tous les outils d’application du DSA », a déclaré Thomas Regnier.