Listen to the article
Le réseau social X a annoncé, mercredi 14 janvier, avoir déployé des mesures pour « empêcher » son outil d’intelligence artificielle (IA) Grok de « déshabiller » des « personnes réelles » en réponse à une vague d’indignation mondiale et à la pression d’autorités de plusieurs pays.
« Nous avons mis en place des mesures technologiques pour empêcher le compte Grok de permettre l’édition d’images de personnes réelles dans des tenues révélatrices, comme des bikinis », explique le réseau social d’Elon Musk dans un message publié sur la plateforme.
« Cette restriction s’applique à tous les utilisateurs, y compris les abonnés payants », est-il ajouté, alors que, depuis le 9 janvier, la génération d’images avec Grok, l’assistant IA développé par xAI, avait été limitée aux seuls abonnés payants, une mesure toutefois jugée insuffisante selon de nombreuses critiques.
Ouverture d’enquêtes judiciaires
La plateforme avait affirmé, début janvier, « prendre des mesures contre les contenus illégaux », notamment pédopornographiques, « en les supprimant, en suspendant définitivement les comptes et en collaborant avec les autorités locales ». Mais elle était restée silencieuse ensuite malgré la multiplication des protestations officielles et l’ouverture d’enquêtes judiciaires ou administratives.
La Commission européenne avait, en effet, déclaré, jeudi 8 janvier, avoir imposé à X une mesure conservatoire, suivie par l’Ofcom, l’autorité régulatrice des télécommunications au Royaume-Uni, qui avait annoncé, lundi 12 janvier, l’ouverture d’une « enquête formelle » visant le réseau social X « concernant des images à caractère sexuel diffusées » par son assistant d’intelligence artificielle.
Elon Musk, qui s’exprime publiquement tous les jours sur X, dénonce régulièrement les mesures de régulation prises par les gouvernements, les accusant de vouloir « supprimer la liberté d’expression ». Il s’était défendu la semaine dernière dans un message posté sur sa plateforme, déclarant que toute personne utilisant Grok pour « créer du contenu illégal subira les mêmes conséquences que si elle mettait en ligne du contenu illégal ».
Bien que X affirme imposer à présent des restrictions à « tous les utilisateurs », la plateforme ajoute avoir mis en place un blocage géographique là où la loi l’exige, laissant planer une incertitude sur l’universalité ou non de ces mesures techniques.
10 commentaires
Si Grok peut générer de telles images, à quoi sert vraiment la modération ? Ça pose question sur l’utilité de ces restrictions.
Les abonnés payants n’auront plus accès à cette fonctionnalité. Une mesure qui pourrait les décevoir.
Mais avec ces risques, c’est probablement pour le mieux.
Pourtant, ces images se générent sans grandes difficultés sur d’autres plateformes. Pourquoi X ne suit pas le mouvement ?
Une nouvelle restriction qui semble logique face aux problèmes récents de Grok. Mais sera-t-elle efficace ?
C’est un premier pas, mais cela montre aussi à quel point l’IA peut être incontrôlable parfois.
Une restriction qui intervient après la pression de plusieurs pays. La régulation internationale semble nécessaire.
On verra dans quelques semaines si ces mesures suffiront à éviter de nouveaux scandales.
Les utilisateurs ont tendance à trouver des moyens de contourner ces limitations.
Enfin une réaction de la part de X après toutes les critiques. Ça fait longtemps que cela était nécessaire !