Génération d’images dénudées sur X : l’IA Grok suspendue en Indonésie

L’Indonésie a annoncé, samedi 10 janvier, la suspension temporaire dans le pays de Grok, l’assistant d’intelligence artificielle de la plateforme X d’Elon Musk, à la suite du scandale de fausses images pornographiques de personnes dénudées. La décision a été prise « afin de protéger les femmes, les enfants et le public contre les risques de faux contenus pornographiques générés à l’aide de la technologie d’intelligence artificielle », a exposé la ministre de la communication et du numérique, Meutya Hafid, dans un communiqué. Ces images, réalisées en demandant à Grok de dénuder des personnes réelles à partir de ses photos ou vidéos, ont suscité des protestations à travers le monde.

« Le gouvernement considère les pratiques de “deepfake” non consensuelles comme une violation grave des droits humains, de la dignité et de la sécurité des citoyens dans l’espace numérique », a ajouté le ministère, qui a convoqué des représentants de X afin d’obtenir des éclaircissements.

S’abonner pour débloquer des fonctionnalités

Interpellé sur le réseau social par de nombreux utilisateurs scandalisés, Grok a répondu vendredi 9 janvier que la génération et l’édition d’images étaient « actuellement réservées aux abonnés payants ». « Vous pouvez vous abonner pour débloquer ces fonctionnalités », a-t-elle précisé.

Cette désactivation limitée a suscité l’indignation du Royaume-Uni, l’un des critiques les plus virulents d’Elon Musk. Cette mesure « transforme simplement une fonctionnalité qui permet la création d’images illégales en un service premium » et constitue « une insulte aux victimes de misogynie et de violences sexuelles », a dénoncé un porte-parole du premier ministre britannique, Keir Starmer.

A Bruxelles, la Commission européenne, qui mène une enquête, a « pris note des dernières modifications » mais les a jugées insuffisantes. « L’action de la France et de l’Europe paye : X restreint l’utilisation de Grok. C’est un premier pas, mais la lutte contre les dérives de l’IA doit se poursuivre », a écrit sur Bluesky Roland Lescure, ministre de l’économie. M. Lescure a rappelé que la France avait « saisi la justice et continuera d’exiger des plateformes qu’elles respectent nos lois si elles veulent profiter de notre marché ».