"C'est une dinguerie, il pleure": des vidéos générées par IA de professeurs en larmes en classe cartonnent sur les résea

[Patchouli38]

""C'est une dinguerie, il pleure": des vidéos générées par IA de professeurs en larmes en classe cartonnent sur les réseaux sociaux… et alimentent la xénophobie

Des vidéos montrant des professeurs en pleurs, humiliés par leurs élèves, cartonnent sur les réseaux sociaux. Il s'agit en réalité de contenus générés par IA qui attisent les commentaires haineux en ligne. Résultat, les vidéos sont mises en avant dans l'algorithme... pour le plus grand bonheur de leurs créateurs.
Monsieur Morel craque totalement dans sa salle de classe. Dans une vidéo repartagée sur X, ex-Twitter, le professeur est en pleurs devant ses élèves. Ces derniers, loin d'avoir de l'empathie pour leur enseignant, en profitent plutôt pour se moquer.

"Wesh, arrête de pousser", "Il pleure, il pleure, tema (regarde, NDLR) sa tête!" ou "Wallah, c'est une dinguerie, il pleure", peut-on entendre alors que l'enseignant pleure à chaudes larmes. La séquence ne dure que quelques secondes. Elle a pourtant été visionnée plus de 3 millions de fois.

Des incohérences
Et cette séquence est loin d'être un cas isolé, selon Le Parisien. Depuis plusieurs semaines, des vidéos montrant des professeurs français en larmes, moqués par leurs élèves, cumulent des millions de vues sur X, Tiktok ou encore Facebook. Sauf que ces scènes n'ont jamais existé. Elles sont entièrement générées par intelligence artificielle.

Il suffit de regarder attentivement les vidéos pour en avoir le coeur net. Les mains de Monsieur Morel passent à travers des objets. Ses lunettes, elles, tiennent sans être posées sur ses oreilles. Certains mouvements du visage manquent de cohérence.

Le repartage de cette vidéo intervient quelques jours après l’agression au couteau d’une professeure à Sanary-sur-Mer. L'élève cherchait alors à se venger de remarques jugées "injustes" à son égard. Dans cette vidéo et ses clones, très souvent, les élèves qui s'en prennent aux professeurs sont d'origine maghrébine. De quoi attiser la haine de certains profils, ouvertement xénophobes.

Des contenus qui alimentent la xénophobie
"Ce professeur en France est au bord de la crise de nerfs! Des enfants étrangers le filment et rient de ses larmes! On dirait qu’on ne peut rien faire pour enseigner à ceux qui sont inaccessibles", peut-on lire en description de la publication. Le profil se revendique comme membre de "Restore Britain", "Restaurons la Grande-Bretagne" un mouvement en faveur d’une "réduction drastique de l’immigration", selon le site de l’organisation.

La vidéo a ensuite été relayée par des comptes étrangers, notamment liés à des mouvances anti-immigration au Royaume-Uni, en Allemagne ou au Japon. Tous oublient de préciser que ces contenus sont faux et générés par IA. Dans les commentaires, de nombreux internautes semblent indignés de l'attitude de ces élèves générés par IA. "Un professeur épuisé et des élèves turbulents témoignent d'un système défaillant", assure l'un d'entre eux. "Il réalise que la France s'écroule", ajoute un autre. Les élèves sont régulièrement qualifiés de "migrants".

Selon TF1 Info, un internaute se définissant comme "patriote" a également relayé une autre vidéo d'une professeure craquant totalement face à des élèves refusant de s'asseoir. "Les professeurs sont moins protégés par le gouvernement ou par le rectorat", précise un large bandeau recouvrant l'image.

Business de l'attention
Mais ces vidéos ouvertement xénophobes cachent un véritable business. En effet, les profils à l'origine de ces vidéos tentent de susciter des émotions fortes chez les utilisateurs, comme la peur, la pitié ou encore l'indignation. Les utilisateurs vont alors commenter, partager ou liker, ce qui permet à la vidéo de devenir virale. Or, cet engagement génère des revenus grâce à la publicité et aux mécaniques de rémunération des plateformes.

La vidéo de M. Morel provient à l'origine d'un compte Tiktok baptisé "frenchi.a", qui l'a publié fin janvier. Si la mention "générée par IA" n'apparaît pas clairement, le nom du compte suggère que l'IA a été utilisée. Sur certaines vidéos, le logo de Sora 2, l'outil d'OpenAI, est même flouté. Autant d'indices qui laissent peu de place au doute.

Sur ce profil suivi par plus de 86.000 abonnés, on trouve des dizaines de fausses vidéos similaires. Des enseignants générés par IA humiliés, au bord de l'effondrement nerveux, face à des classes présentées comme ingérables. Ces images sont ensuite reprises par des comptes militants, parfois étrangers, qui les sortent de leur contexte, ou taisent volontairement leur origine artificielle, pour servir des narratifs politiques.

Le compte ne s'est d'ailleurs pas cantonné aux salles de cours. Le profil diffuse également de fausses vidéos de procès, où des condamnés menacent des magistrats dans un vocabulaire religieux, ou encore des contenus mettant en scène des jeunes issus de minorités dans des situations fictives et violentes.

Si certains internautes identifient les deepfakes, une large majorité semble tomber dans le piège. Le réalisme croissant des outils de génération vidéo rend la distinction de plus en plus difficile... Surtout lorsque les images confirment des préjugés existants."

https://www.bfmtv.com/tech/actualites/r ... 00887.html

[Mesoke]

Astuce qui peut mettre la puce à l'oreille pour détecter une fausse vidéo : c'est tellement complexe et gourmand en ressource de créer une vidéo par IA qu'elles sont généralement super courte. Si on voit un plan séquence de 2 minutes peu de chance que ce soit un assemblage de plein de petites vidéos créées par IA. Par contre on voit des vidéos composées de plusieurs séquences IA de quelques secondes qui sont montées en une plus longue vidéo, comme on monterait un film à partir de plein de bouts de vidéo, avec des plans différents, des coupes, etc.

Là cette vidéo ne dure que 6-8 secondes, c'est la durée habituelle des vidéos IA. Je ne sais plus quel générateur de vidéo IA est / était limité à 6 secondes.