Grok, l'intelligence artificielle qui déshabille les femmes sur X

[Once]

"Une utilisation détournée de l'intelligence artificielle de X : des internautes s'en servent pour déshabiller des femmes, et il est difficile de lutter contre."

"Depuis quelques jours, des internautes utilisent Grok, l'IA du milliardaire américain Elon Musk, pour déshabiller des femmes en deux clics. Les victimes de ces montages sont quasiment tout le temps des femmes. Concrètement, une internaute publie une photo d'elle, prise devant un miroir ou en selfie. Puis en commentaire, des internautes demandent à Grok, l'intelligence artificielle de X, de déshabiller la personne sur la photo, pour qu'elle apparaisse en sous-vêtement ou en maillot de bain.

En quelques secondes, une image est créée. Rien n'indique au premier coup d'œil qu'on est devant une deepfake, une image trafiquée avec l'IA. Les traits du visage et l'arrière-plan sont quasiment identiques. On constate à quel point il est facile, de pouvoir créer des fausses images de corps dénudés. Pour les diffuser ou les garder pour soi. À aucun moment, Grok ne demande le consentement des personnes concernées.

Que risquent les internautes qui réclament ces trucages ?

Créer de fausses photos et vidéos à caractère sexuel est passible de deux ans de prison ferme et 60 mille euros d'amende. Mais quand est-il des plateformes, comme Grok, peuvent-elles échapper à la justice ? "Ce n’est pas Grok qui créé les photos, on vous met à disposition des outils, et après, c’est vous qui en faites une utilisation conforme ou non à la législation", répond Aurore Sauviat, avocate au barreau de Paris et spécialisée notamment dans les sujets liés à l'intelligence artificielle et aux nouvelles technologies. "C’est la problématique de la responsabilité des éditeurs d’IA. Grok n’est pas responsable de superviser, en amont, ce qu’on lui demande. En revanche, il est obligé de retirer et faire supprimer les contenus illicites créés dès lors qu’il est notifié qu’il y a une violation de la loi."

L'IA Act, cette grande législation européenne, qui est en train d'être mise en œuvre, pourrait changer la donne. "Les éditeurs d'IA comme Grok auront la responsabilité d'éviter les utilisations détournées que l'on peut faire de leurs outils, mais pour l'instant, ce n'est pas entrer en vigueur", explique Aurore Sauviat.

Les sites spécialisés dans ces deepfakes à caractère sexuel pullulent

L'un d'eux vient de fermer : 18 millions de visites recensées en mars sur Mrdeepfakes.com. Près de 70 000 vidéos hébergées. Parmi les victimes, la chanteuse Taylor Swift, l’actrice Emma Watson et l'ancien Premier ministre Justin Trudeau. Leur visage superposé à celui d'acteur et d'actrice porno. Mais surtout, sur ce site, on y trouvait un forum, permettant de se faire aider pour générer de fausses vidéos ou même d'en acheter. Deux raisons peuvent expliquer la fermeture de ce site : l'un des gérants a été démasqué après une enquête journalistique.

Et puis aux États-Unis, une loi vient d'être adoptée, elle criminalise les deepfakes pornographiques, et impose un délai de 48 heures aux réseaux sociaux après un signalement pour les supprimer."

https://www.radiofrance.fr/franceinter/ ... 25-5629119

Edit : Entendu sur France Info ce matin même : Elon Musk se moque de tout ça et, par pure provocation, a publié une photo de lui-même "déshabillé" par son propre logiciel Grok.