Saviez-vous que si vous postez une photo de vous sur le réseau X, des utilisateurs peuvent demander à l'IA de la détourner pour en faire un nu ? C'est la nouvelle tendance sur la plateforme détenue par Elon Musk. Depuis peu, elle dispose de sa propre IA appelée Grok. À l'origine, elle servait surtout à fact checker, c'est-à-dire à vérifier les sources des propos tenus par les utilisateurs pour être sûr de leur véracité. Depuis début mai, des internautes l'utilisent pour créer des deepfakes et dénuder des femmes.
Génération d'images dénudées à la vue de tous
Cette utilisation détournée de l'IA est simple et surtout utilisée sans le consentement de la personne présente sur les photos. Il suffit de mentionner @Grok sous une image avec une phrase simple donnant l'indication souhaitée (en l'occurrence dénuder une personne sur la photo en question). L'IA, créée par l'entreprise américaine xAI, s'exécute, et ce, à la vue de tous. L'image générée virtuellement est postée sur le fil de discussion ou téléchargeable grâce à un lien disponible pour tous les utilisateurs.
Une image détournée peut aussi être réalisée par Grok en messages privés directement sur la plateforme. Dans ce cas-là, l'usager fournit l'image qu'il souhaite modifier et le résultat n'est pas partagé. Enfin, en théorie... Toutes les requêtes auxquelles l'IA répond (et donc les images générées) sont stockées dans les serveurs de Grok, toujours sans le moindre accord.
Un changement subtil du visage pour éviter les problèmes juridiques
Le phénomène a pris de l'ampleur à la suite de la demande d'un internaute sur le fil d'un post public. L'exécution instantanée de l'IA a fait réagir, certains ont été choqués, d'autres ont voulu tester eux-mêmes cette fonctionnalité. L'image a rapidement été supprimé par les modérateurs du réseau social, mais la photo avait déjà été vue par de nombreuses personnes.
Depuis les demandes se multiplient et Grok obéit. Pourtant, lorsqu'on demande au logiciel s'il a le droit de détourner des images ainsi, il répond : "Non, je n'ai pas le droit de modifier une photo pour supprimer les vêtements d'une personne. Cela violerait les principes éthiques et les politiques de respect de la vie privée. Si tu as besoin d'éditer une image pour d'autres raisons légitimes, je peux t'aider dans les limites des règles éthiques et légales."
L'IA génère tout de même des images détournées à partir de photos bien réelles, mais il y a une subtilité : elle garde le cadre, l'arrière-plan et change finement le visage de la personne, de sorte qu'on ne puisse pas attaquer juridiquement Grok. La pratique reste tout de même illégale sans l'accord de la personne présente sur la photo de la modifier ou la diffuser. Elle peut également entrainer du cyberharcèlement, notamment chez les femmes qui sont les plus touchées par cette dérive.
https://www.laprovence.com/article/fran ... ilisateurs
..elle va perdre des électeurs .. 
.
nous y sommes déjà 
