Grok, le chatbot d’Elon Musk, limite la génération d’images aux utilisateurs qui paient

« La génération et l’édition d’images sont actuellement réservées aux abonnés payants », indique désormais le chatbot IA controversé Grok lorsqu’on lui demande de générer des images via la plateforme de réseaux sociaux X.

Le chatbot demande également aux utilisateurs de s’abonner à la version premium de X pour pouvoir utiliser Grok afin de générer des images sur la plateforme. Cependant, le message ne précise pas s’il existe des restrictions pour les abonnés premium en matière de génération d’images à caractère sexuel deepfake.

Grok a été critiqué ces derniers jours par les régulateurs car il permet aux utilisateurs de générer des deepfake de femmes dénudées, y compris des mineures. Les législateurs et les États membres de l’UE ont appelé à une répression de cette technologie.

« C’est illégal », soulignait lundi 5 janvier Thomas Regnier, porte-parole de la Commission européenne chargé des questions numériques.

Jeudi 8 janvier, la Commission a demandé à X de conserver tous les documents et données internes relatifs à Grok jusqu’à la fin de 2026, en vertu des pouvoirs qui lui sont conférés par le règlement européen sur les services numériques (Digital Services Act, DSA), qui soumet X aux règles les plus strictes de l’UE en matière de plateformes. Cependant, l’exécutif européen n’a pas ouvert de nouvelle enquête sur X en relation avec le scandale de la pornographie deepfake.

Les tests effectués par Euractiv ont montré que lorsque Grok est accessible en tant qu’application IA autonome, plutôt que via X, l’outil continue de générer gratuitement des images en fonction des demandes des utilisateurs.

X a été contacté pour répondre à nos questions, mais n’avait pas réagi au moment de la publication de cet article.

Maximillian Henning a contribué à la rédaction de cet article.