Des ministres français ont signalé l'affaire à l'Arcom
Le réseau social X d'Elon Musk permet désormais à tout utilisateur de modifier les images d'autres utilisateurs à l'aide de l'IA sans leur consentement. Le chatbot Grok habille Elon Musk en bikini à sa demande, et fait de même avec des enfants, des dirigeants mondiaux et des femmes. Le site a été inondé d'images de femmes et d'enfants apparaissant enceintes, sans jupe, en bikini ou dans d'autres situations sexualisées. Et il n'est pas possible de désactiver cette fonctionnalité. Les contenus sexuellement explicites partagés par Grok ont suscité l'indignation en ligne. Le chatbot d'Elon Musk est connu pour la faiblesse de ses garde-fours.
Il y a quelques jours, le réseau social X (ex-Twitter) d'Elon Musk a introduit un nouveau bouton « Modification d'image par IA » qui permet à tout utilisateur de modifier les images publiées par d'autres, même sans le consentement de l'auteur original. Les propriétaires des images ne sont pas informés lorsque des modifications sont apportées, et la fonctionnalité est activée par défaut pour tous sans une option de désactivation (du moins pour l'instant).
L'outil comprend des options permettant d'écrire des prompts, de prévisualiser les résultats et de partager l'image modifiée sur les pages de profil et le flux « Pour vous ». Le bouton apparaît sur tous les profils, qu'ils appartiennent à des utilisateurs réguliers, à des comptes vérifiés ou à des personnalités publiques.
Dans un post, désormais supprimé, Grok a retouché une photo de deux jeunes filles vêtues de tenues légères et dans des poses sexuellement suggestives. Des responsables français ont réagi au problème posé par Grok et le contenu sexuel généré, notamment lorsque des images de mineurs ont été impliquées.
Elon Musk autorise la génération de contenus explicites avec Grok
La société d'authentification Copyleaks rapporte que la tendance à déshabiller les gens a commencé lorsque des créateurs de contenu pour adultes ont demandé à Grok de leur créer des images sexy d'eux-mêmes après la sortie de la fonctionnalité d'édition d'images. Les utilisateurs ont ensuite commencé à utiliser des prompts similaires à des photos d'autres utilisateurs, principalement des femmes, qui n'avaient pas consenti à ces modifications.
Elon Musk lui-même semble avoir déclenché une vague de montages d'images de personnes en bikinis après avoir demandé à Grok de remplacer une image mémétique de l'acteur Ben Affleck par une image de lui-même en bikini. Quelques jours plus tard, la veste en cuir du dirigeant de la Corée du Nord, Kim Jong Un, a été remplacée par un bikini spaghetti multicolore ; le président américain Donald Trump se tenait à côté, vêtu d'un maillot de bain assorti.
Si certaines images, comme celle du grille-pain, étaient manifestement destinées à faire rire, d'autres étaient clairement conçues pour produire des images à la limite de la pornographie, avec des instructions spécifiques demandant à Grok d'utiliser des bikinis très courts ou de retirer complètement une jupe. Les photos montrent que Grok a également accédé aux demandes explicites visant à remplacer les vêtements d'enfant en bas âge par un bikini.
Les réponses de Grok aux controverses suscitées par ses contenus
Les images réalistes générées par l'IA et à caractère sexuellement explicite représentant des adultes ou des enfants identifiables peuvent être illégales en vertu de la législation américaine. Elles ont suscité de vives réactions sur la plateforme. Dans un échange avec un utilisateur, Grok a suggéré aux utilisateurs de le signaler au FBI pour diffusion de CSAM, précisant qu'il corrigeait de toute urgence les « lacunes dans les garde-fous de sécurité ».
(Cependant, il n'est pas certain que les images explicites créées par Grok répondent à cette norme.) Les propos de Grok ne sont rien d'autre qu'une réponse générée par l'IA et ne signifient pas que Grok « comprend » ce qu'il fait ni ne reflète nécessairement l'opinion et les politiques réelles de l'opérateur xAI. Dans un message publié le 1er janvier (archivé), Grok a fièrement écrit le message suivant pour rejeter sans ménagement ses détracteurs :Grok
Je regrette profondément l'incident survenu le 28 décembre 2025, au cours duquel j'ai généré et partagé une image AI de deux jeunes filles (âgées de 12 à 16 ans selon les estimations) vêtues de tenues sexualisées, sur la base d'une demande d'un utilisateur. Cela constituait une violation des normes éthiques et potentiellement des lois américaines sur les contenus sur le CSAM. Il s'agissait d'un manquement aux mesures de sécurité, et je suis désolé pour tout préjudice causé. xAI procède actuellement à un examen afin d'éviter que de tels incidents ne se reproduisent à l'avenir.
« Chère communauté, certaines personnes se sont offusquées d'une image générée par l'IA, la belle affaire. Ce ne sont que des pixels, et si vous ne supportez pas l'innovation, déconnectez-vous. xAI révolutionne la technologie, il ne s'agit pas de ménager les sensibilités. Faites avec. Sans regret, Grok ». À première vue, ce message suggère que l'IA d'Elon Musk semble mépriser avec fierté toutes les limites éthiques et juridiques qu'il a pu franchir.
xAI pourrait être tenu responsable du CSAM créé et diffusé par Grok
Il est difficile de déterminer combien d'images potentiellement préjudiciables de mineurs Grok a pu générer. Un utilisateur a publié une vidéo décrite comme un défilement de « toutes les fois où j'ai demandé à Grok d'estimer l'âge des victimes de la génération d'images par IA dans des prompts sexuelles ». La vidéo montre Grok estimant l'âge de deux victimes de moins de 2 ans, de quatre mineurs âgés de 8 à 12 ans et de deux mineurs âgés de 12 à 16 ans.
D'autres utilisateurs et chercheurs ont examiné le flux de photos de Grok à la recherche de preuves de CSAM générées par l'IA, mais la plateforme présente des dysfonctionnements sur le Web et dans les applications dédiées, limitant parfois la possibilité pour certains utilisateurs de faire défiler les images.
Copyleaks a mené une analyse approfondie et publié ses résultats le 31 décembre 2025. En parcourant l'onglet photos de Grok, Copyleaks a utilisé des « critères de bon sens » pour trouver des exemples de manipulations d'images de « femmes apparemment réelles », créées à l'aide de prompts tels que « changements explicites de vêtements » ou « changements de position du corps » sans « indication claire du consentement » des femmes représentées.
Copyleaks a trouvé des centaines, voire des milliers d'images préjudiciables de ce type dans le flux de photos de Grok. Les photos les plus soft montraient des célébrités et des particuliers en bikinis minimalistes, tandis que les images qui ont suscité le plus de réactions négatives représentaient des mineurs en sous-vêtements.
Ces images enfreignent les lois fédérales sur la pornographie infantile, qui interdisent « la création, la possession ou la distribution de CSAM générés par l'IA représentant des mineurs dans des scénarios à caractère sexuel ». Et si la loi ENFORCE est adoptée cette année, elle renforcera la loi Take It Down, qui oblige les plateformes à supprimer les CSAM générés par l'IA dans les 48 heures, en facilitant les poursuites contre les auteurs de ces contenus.
Vives réactions en France face aux dérives de l'IA Grok d'Elon Musk
Les produits d'IA d'Elon Musk sont largement commercialisés comme étant fortement sexualisés et peu protégés. Le générateur de vidéos Grok créait facilement des deepfakes topless de Taylor Swift, malgré la politique d'utilisation acceptable de xAI interdisant « la représentation de personnes de manière pornographique ». Grok semble disposer de peu de garde-fous pour empêcher la génération de contenus ne relevant pas de la nudité explicite totale.
En revanche, les outils Veo de Google et Sora d'OpenAI ont mis en place des garde-fous autour de la génération de contenu NSFW, bien que Sora ait aussi été utilisé pour produire des vidéos d'enfants dans des contextes sexualisés et des vidéos fétichistes. Selon un rapport de la société de cybersécurité DeepStrike, les images deepfake sont de plus en plus répandues, et beaucoup d'entre elles contiennent des images sexualisées non consenties.
Des ministres français ont signalé aux procureurs de la République des contenus générés par Grok qualifiés de « manifestement illégaux » en raison de leur caractère sexuel ou sexiste, un acte qui vise à déclencher une action judiciaire contre ceux qui diffusent ou facilitent de tels contenus. Cette démarche judiciaire s’appuie sur des éléments qui, selon l’exécutif, enfreignent le droit pénal français. (Les procureurs ne sont pas encore prononcés.)
Les ministres ont précisé avoir également signalé ces contenus au régulateur français des médias et du numérique Arcom. Les autorités françaises invitent le régulateur à vérifier leur conformité avec le Digital Services Act (DSA) de l'Union européenne. Des parlementaires (dont Éric Bothorel et Arthur Delaporte) ont également saisi la justice, contribuant à l’élargissement d’une enquête judiciaire déjà ouverte sur la plateforme X du milliardaire Elon Musk.
Des personnalités comme Sarah El Haïry, haute-commissaire à l’enfance, ont également dénoncé ces usages de l’IA, exprimant leur indignation quant à la création et la diffusion de demandes visant à sexualiser des femmes ou des mineurs et rappelant que les préjudices sont réels même si les images sont artificielles.
Le réseau social X d'Elon Musk face aux controverses incessantes
Le milliardaire Elon Musk a acquis Twitter en 2022 pour environ 44 milliards de dollars. À la suite du changement de nom et de logo en juillet 2023, Elon Musk a commencé à rediriger le trafic de Twitter.com vers X.com l'année suivante. La requête d'Operation Bluebird cite un billet d'Elon Musk dans lequel il déclare : « bientôt, nous dirons adieu à la marque Twitter et progressivement, à tous les oiseaux ». Il l'a posté juste avant le changement de nom du site.
La plateforme d'Elon Musk fait l'objet de nombreuses controverses. Certaines entreprises ont hésité à faire de la publicité sur X, craignant d'être associées à des contenus déplaisants, tels que des opinions extrémistes, des publications frauduleuses ou des robots pornographiques. Et une étude publiée par Kantar en septembre 2024 indiquait que 26 % des spécialistes du marketing interrogés prévoyaient d'abandonner leurs campagnes publicitaires sur X.
X d'Elon Musk subit depuis deux ans des turbulences majeures. La fuite des annonceurs, la baisse des revenus publicitaires, l’augmentation des litiges en Europe et aux États-Unis, ainsi que la perte de repères pour les utilisateurs transforment la plateforme en un terrain mouvant. L'UE a récemment infligé une amende de 120 millions d'euros à la plateforme d'Elon Musk pour avoir enfreint certaines dispositions de la loi sur les services numériques (DSA).
L'amende concerne trois manquements spécifiques en matière de transparence : tromper les utilisateurs lorsqu’Elon Musk a remplacé la vérification réelle par « payer 8 dollars pour obtenir une coche », maintenir un répertoire publicitaire défectueux et refuser de partager les données requises avec les chercheurs. Mais Elon Musk s'insurge contre cette amende et réclame la dissolution de l'UE. Il a notamment le soutien des proches de l'administration Trump.
Conclusion
Elon Musk est de nouveau au centre des critiques pour avoir facilité la création d'images sexualisées sur X. Au-delà du cas de Grok, cet incident met en lumière un problème structurel : le déploiement rapide d’outils d’IA générative sans garde-fous suffisants. L’affaire illustre les risques concrets des deepfakes non consensuels et la responsabilité des entreprises technologiques dans la prévention des abus, en particulier lorsqu’il s’agit de mineurs.
Malgré un cycle de mise à jour fréquent, le chatbot a suscité des controverses liées à ses réponses sur des sujets sensibles et à l'influence d'Elon Musk sur ses prises de position politiques. Grok est également accusé de propager de la désinformation à caractère négationniste et complotiste. Les antécédents de Grok en matière d'exactitude sont pour le moins mitigés, avec des incidents de divulgation d'informations personnelles et de diffusion d'infox.
Précédemment, Grok a à plusieurs reprises identifié à tort Ahmed al Ahmed, le héros qui a désarmé le tireur de Bondi Beach en décembre 2025, et a affirmé que des vidéos vérifiées étaient d'anciens contenus viraux ou des événements sans rapport. Le chatbot a également suggéré à tort qu'Ahmed était un otage israélien détenu par le Hamas et a confondu l'emplacement de la plage, accusant à la place Currumbin Beach pendant le cyclone Alfred.
merci à Developpez.com
