Listen to the article
Ces derniers jours, des dizaines de fausses vidéos mettant en scène le youtubeur français le plus suivi au monde avec 26,9 millions d’abonnés sont apparues sur les réseaux sociaux. Générées par l’application Sora d’OpenAI, certaines restent bon enfant : Tibo InShape se maquillant dans un tuto beauté, Tibo InShape épousant un haltère… Mais de très nombreuses autres séquences lui prêtent des propos racistes. On retrouve, le plus souvent, l’insulte « bougnoule » (plus rarement, « négro »).
« Des personnes me font dire des mots problématiques que je ne valide pas, mais c’est dans le cadre d’une trend TikTok (…). Et quand je lis les commentaires, tout le monde kiffe ces vidéos. J’ai l’impression qu’on a enfin trouvé une trend qui fait rigoler tout le monde, et ça, qu’importe sa religion et sa couleur de peau », a expliqué Thibaud Delapart, de son vrai nom, dans un message posté il y a deux jours. Si Tibo InShape plaide l’« humour noir », bien qu’il « condamne » ces mots, le phénomène pose de nouvelles questions de modération à l’ère de l’intelligence artificielle.
4 commentaires
C’est bouleversant de voir comment l’IA peut être utilisée pour manipuler des images et des paroles de façon si réaliste. Cela soulève de vraies questions éthiques sur notre manque de contrôle.
J’espère que les plateformes vont rapidement trouver des solutions pour éviter ce genre de dérives. Sinon, on risque de voir de plus en plus de cas similaires avec d’autres influenceurs.
L’humour noir, vraiment? Difficile de trouver ça drôle, surtout quand ça toucherait à des sujets aussi sensibles que le racisme. La modération des réseaux sociaux a encore du travail devant elle.
On dirait que les algorithmes de modération ont encore du mal à détecter les deepfakes, surtout dans les tendances virales. Cela montre à quel point l’IA fautille de tous côtés.