Forum-Actualite.com • Débats Politiques

Dernière tendance sur le réseau social X : demander à Grok, l'IA générative disponible sur la plateforme, créer des photos de femmes en tenues légères ou sans vêtements à partir d'images réelles. Des requêtes réalisées bien qu'elles soient illégales.

Saviez-vous que si vous postez une photo de vous sur le réseau X, des utilisateurs peuvent demander à l'IA de la détourner pour en faire un nu ? C'est la nouvelle tendance sur la plateforme détenue par Elon Musk. Depuis peu, elle dispose de sa propre IA appelée Grok. À l'origine, elle servait surtout à fact checker, c'est-à-dire à vérifier les sources des propos tenus par les utilisateurs pour être sûr de leur véracité. Depuis début mai, des internautes l'utilisent pour créer des deepfakes et dénuder des femmes.

Génération d'images dénudées à la vue de tous

Cette utilisation détournée de l'IA est simple et surtout utilisée sans le consentement de la personne présente sur les photos. Il suffit de mentionner @Grok sous une image avec une phrase simple donnant l'indication souhaitée (en l'occurrence dénuder une personne sur la photo en question). L'IA, créée par l'entreprise américaine xAI, s'exécute, et ce, à la vue de tous. L'image générée virtuellement est postée sur le fil de discussion ou téléchargeable grâce à un lien disponible pour tous les utilisateurs.

Une image détournée peut aussi être réalisée par Grok en messages privés directement sur la plateforme. Dans ce cas-là, l'usager fournit l'image qu'il souhaite modifier et le résultat n'est pas partagé. Enfin, en théorie... Toutes les requêtes auxquelles l'IA répond (et donc les images générées) sont stockées dans les serveurs de Grok, toujours sans le moindre accord.
Un changement subtil du visage pour éviter les problèmes juridiques

Le phénomène a pris de l'ampleur à la suite de la demande d'un internaute sur le fil d'un post public. L'exécution instantanée de l'IA a fait réagir, certains ont été choqués, d'autres ont voulu tester eux-mêmes cette fonctionnalité. L'image a rapidement été supprimé par les modérateurs du réseau social, mais la photo avait déjà été vue par de nombreuses personnes.

Depuis les demandes se multiplient et Grok obéit. Pourtant, lorsqu'on demande au logiciel s'il a le droit de détourner des images ainsi, il répond : "Non, je n'ai pas le droit de modifier une photo pour supprimer les vêtements d'une personne. Cela violerait les principes éthiques et les politiques de respect de la vie privée. Si tu as besoin d'éditer une image pour d'autres raisons légitimes, je peux t'aider dans les limites des règles éthiques et légales."

L'IA génère tout de même des images détournées à partir de photos bien réelles, mais il y a une subtilité : elle garde le cadre, l'arrière-plan et change finement le visage de la personne, de sorte qu'on ne puisse pas attaquer juridiquement Grok. La pratique reste tout de même illégale sans l'accord de la personne présente sur la photo de la modifier ou la diffuser. Elle peut également entrainer du cyberharcèlement, notamment chez les femmes qui sont les plus touchées par cette dérive.
https://www.laprovence.com/article/fran ... ilisateurs

Reste plus qu'à aller vérifier car on ne saurait croire ces affirmations sur parole.

Depuis qu'il est contraint de garder ses mains dans ses poches, DSK ne serait-il pas le cerveau de cette innovation technologique coquine ?

Non, je ne le savais pas et - heureusement - je ne suis pas sur X...

J'ai pas trop de mal, par contre, à imaginer ce que sujet va devenir...

Ben oui, l' I.A. s'ouvre à de multiples applications et ce n'est que le commencement. Personne n'est vraiment en mesure d'arrêter l' I.A. c'est un peu la boite de Pandore qui s'est ouverte.

avec un peu de chance, Marine pourra lui demander comment détourner l'argent public sans se faire chopper

Fonck1 a écrit : ↑13 mai 2025 08:08 avec un peu de chance, Marine pourra lui demander comment détourner l'argent public sans se faire chopper

Ils vont pouvoir mettre Marine à poil .

..elle va perdre des électeurs ..

.

Je pense que toutes les IA de génération d'images qui n'ont pas été bridées niveau création d'images de nu sont énormément utilisées (si ce n'est principalement utilisées) pour créer des images de femmes dénudées, célèbres ou pas. Là le "problème" c'est surtout que Grok est facilement accessible via X et qu'il sert aussi de chat.

Si vous voulez des réflexions sur les IA, cette chaine Youtube (le Futurologue) parle beaucoup d'IA et de ses dérives, Science4All en a aussi beaucoup parlé, et parle beaucoup d'algorithmes en général et de leur implication sur nos vies.

Kabé a écrit : ↑12 mai 2025 22:25 Non, je ne le savais pas et - heureusement - je ne suis pas sur X...

J'ai pas trop de mal, par contre, à imaginer ce que sujet va devenir...

nous y sommes déjà

Mesoke a écrit : ↑13 mai 2025 16:56 Je pense que toutes les IA de génération d'images qui n'ont pas été bridées niveau création d'images de nu sont énormément utilisées (si ce n'est principalement utilisées) pour créer des images de femmes dénudées, célèbres ou pas. Là le "problème" c'est surtout que Grok est facilement accessible via X et qu'il sert aussi de chat.

Si vous voulez des réflexions sur les IA, cette chaine Youtube (le Futurologue) parle beaucoup d'IA et de ses dérives, Science4All en a aussi beaucoup parlé, et parle beaucoup d'algorithmes en général et de leur implication sur nos vies.

Exact , quelle bonne idée que de regarder cette chaîne ( merci au G de GAFA ) , c’est tout

mic43121 a écrit : ↑13 mai 2025 08:20
Fonck1 a écrit : ↑13 mai 2025 08:08 avec un peu de chance, Marine pourra lui demander comment détourner l'argent public sans se faire chopper

Ils vont pouvoir mettre Marine à poil . ..elle va perdre des électeurs .. .

ça m'étonnerai ,, chez les le Pen on porte des caleçons blindés

lepicard a écrit : ↑13 mai 2025 17:11
mic43121 a écrit : ↑13 mai 2025 08:20

Ils vont pouvoir mettre Marine à poil . ..elle va perdre des électeurs .. .
ça m'étonnerai ,, chez les le Pen on porte des caleçons blindés

Tu es sur qu'elle a un calbar

mic43121 a écrit : ↑13 mai 2025 21:43
lepicard a écrit : ↑13 mai 2025 17:11
ça m'étonnerai ,, chez les le Pen on porte des caleçons blindés
Tu es sur qu'elle a un calbar

normalement, oui ; d'abord c'est un panty ,,,,, mais quand on lui demande de s'asseoir ,elle se couche ,,,, demande à Poutine

lepicard a écrit : ↑13 mai 2025 22:04
mic43121 a écrit : ↑13 mai 2025 21:43

Tu es sur qu'elle a un calbar
normalement, oui ; d'abord c'est un panty ,,,,, mais quand on lui demande de s'asseoir ,elle se couche ,,,, demande à Poutine
pour ces trucs , j'ai l'oeil

Forum-Actualite.com • Débats Politiques

Grok, l'IA sur X créée par Elon Musk, dénude des femmes à la demande d'utilisateurs

Grok, l'IA sur X créée par Elon Musk, dénude des femmes à la demande d'utilisateurs

Re: Grok, l'IA sur X créée par Elon Musk, dénude des femmes à la demande d'utilisateurs

Re: Grok, l'IA sur X créée par Elon Musk, dénude des femmes à la demande d'utilisateurs

Re: Grok, l'IA sur X créée par Elon Musk, dénude des femmes à la demande d'utilisateurs

Re: Grok, l'IA sur X créée par Elon Musk, dénude des femmes à la demande d'utilisateurs

Re: Grok, l'IA sur X créée par Elon Musk, dénude des femmes à la demande d'utilisateurs

Re: Grok, l'IA sur X créée par Elon Musk, dénude des femmes à la demande d'utilisateurs

Re: Grok, l'IA sur X créée par Elon Musk, dénude des femmes à la demande d'utilisateurs

Re: Grok, l'IA sur X créée par Elon Musk, dénude des femmes à la demande d'utilisateurs

Re: Grok, l'IA sur X créée par Elon Musk, dénude des femmes à la demande d'utilisateurs

Re: Grok, l'IA sur X créée par Elon Musk, dénude des femmes à la demande d'utilisateurs

Re: Grok, l'IA sur X créée par Elon Musk, dénude des femmes à la demande d'utilisateurs

Re: Grok, l'IA sur X créée par Elon Musk, dénude des femmes à la demande d'utilisateurs

Re: Grok, l'IA sur X créée par Elon Musk, dénude des femmes à la demande d'utilisateurs