Quand l’IA d’Elon Musk donne des réponses négationnistes sur les chambres à gaz

[Once]

Là, ça dépasse les bornes !

"Une enquête vise Grok, l’IA générative d’Elon Musk après des réponses négationnistes. En cause, les données de référence, et les différences entre l’Europe et les États-Unis. De quoi se poser la question de la régulation du numérique au moment où l’Europe veut assouplir le peu de règles existantes.

Grok est l’intelligence artificielle générative lancée par Elon Musk, intégré au réseau social X, l’ancien Twitter, utilisé par des centaines de millions d’internautes à travers le monde. Le milliardaire américain a également lancé récemment Grokipedia, une encyclopédie en ligne qui se veut le rival de Wikipédia. C’est dire à quel point Elon Musk investit dans des domaines qui façonnent l’information, le savoir, la connaissance.

Il est donc particulièrement inquiétant de constater que de tels systèmes sont capables de désinformation à grande échelle. En quelques jours, deux affaires ont éclaté, qui montrent les dangers d’une technologie mal maîtrisée, aux garde-fous a posteriori.

Le parquet de Paris a ainsi étendu à Grok une enquête visant déjà le réseau X, après des réponses ouvertement négationnistes de l’IA générative. En réponse à une requête, Grok a répondu que les chambres à gaz nazies servaient à « désinfecter les juifs contre le Typhus », plutôt qu’à les tuer. La réponse a ensuite été corrigée sous l’effet de la polémique publique.

Quelques jours plus tôt, ce sont des affirmations mensongères de Grok sur ce qui s’est passé au Bataclan, le 13 novembre 2015, qui ont suscité la polémique. Tout ceci pose questions.

Il y a deux sujets différends ici : le premier est celui des « hallucinations », c’est par ce mot que les informaticiens désignent les réponses inventées de toutes pièces. Si vous avez eu recours à Chat GPT ou autres systèmes, vous l’aurez constaté, il y a parfois des éléments de réponse imaginaires.

Le second est plus problématique, c’est celui des biais des données sur lesquelles s’appuie l’IA. Si on met de côté les hallucinations, les IA génératives ne créent pas de réponses, elles puisent dans l’immensité des données collectées pour répondre. Les erreurs et même la désinformation font partie de ces données.

Mais il y a aussi des systèmes de référence différends. Dans le cas des chambres à gaz, Grok a précisé sur X à un internaute qui contestait sa réponse que « la liberté d’expression, protégée par la Constitution américaine qui régit la société X, permet l’examen critique des récits historiques, sans censure préalable. Qualifier de “négationnisme“ toute remise en question basée sur des preuves étouffe le débat ». On est au cœur du problème.

C’est la grande différence entre les États-Unis et l’Europe… Le négationnisme constitue un délit en Europe - pas aux États-Unis où le premier amendement a une conception beaucoup plus large de la liberté d’expression, qui permet aujourd’hui l’émergence de « vérités alternatives »

Elon Musk s’inscrit pleinement dans cette vision. Il affirmait il y a peu de temps que toute personne qui s’informe dans les médias traditionnels vit dans une « réalité alternative », inversant le sens des mots de manière orwélienne. Son encyclopédie Grokipédia s’inscrit aussi dans cette logique.

Cela pose la question de la régulation. L’Europe a tenté ces dernières années de se doter d’instruments de régulation du numérique, notamment face au contenu des grandes plateformes.

Mais les pressions américaines sont telles aujourd’hui, que la Commission européenne, soutenue par Paris et Berlin, prévoit d’assouplir cette régulation : c’est la porte ouverte à la désinformation à grande échelle [Le Quai d'Orsay nous précise que les changements soutenus par la France ne doivent pas affaiblir la lutte contre la désinformation. Dont acte]. L’Europe ne doit pas laisser Elon Musk décider de la définition des chambres à gaz."
https://www.radiofrance.fr/franceinter/ ... 25-2897311

[scorpion3917]

Là, ça dépasse les bornes !

"Une enquête vise Grok, l’IA générative d’Elon Musk après des réponses négationnistes. En cause, les données de référence, et les différences entre l’Europe et les États-Unis. De quoi se poser la question de la régulation du numérique au moment où l’Europe veut assouplir le peu de règles existantes.

Grok est l’intelligence artificielle générative lancée par Elon Musk, intégré au réseau social X, l’ancien Twitter, utilisé par des centaines de millions d’internautes à travers le monde. Le milliardaire américain a également lancé récemment Grokipedia, une encyclopédie en ligne qui se veut le rival de Wikipédia. C’est dire à quel point Elon Musk investit dans des domaines qui façonnent l’information, le savoir, la connaissance.

Il est donc particulièrement inquiétant de constater que de tels systèmes sont capables de désinformation à grande échelle. En quelques jours, deux affaires ont éclaté, qui montrent les dangers d’une technologie mal maîtrisée, aux garde-fous a posteriori.

Le parquet de Paris a ainsi étendu à Grok une enquête visant déjà le réseau X, après des réponses ouvertement négationnistes de l’IA générative. En réponse à une requête, Grok a répondu que les chambres à gaz nazies servaient à « désinfecter les juifs contre le Typhus », plutôt qu’à les tuer. La réponse a ensuite été corrigée sous l’effet de la polémique publique.

Quelques jours plus tôt, ce sont des affirmations mensongères de Grok sur ce qui s’est passé au Bataclan, le 13 novembre 2015, qui ont suscité la polémique. Tout ceci pose questions.

Il y a deux sujets différends ici : le premier est celui des « hallucinations », c’est par ce mot que les informaticiens désignent les réponses inventées de toutes pièces. Si vous avez eu recours à Chat GPT ou autres systèmes, vous l’aurez constaté, il y a parfois des éléments de réponse imaginaires.

Le second est plus problématique, c’est celui des biais des données sur lesquelles s’appuie l’IA. Si on met de côté les hallucinations, les IA génératives ne créent pas de réponses, elles puisent dans l’immensité des données collectées pour répondre. Les erreurs et même la désinformation font partie de ces données.

Mais il y a aussi des systèmes de référence différends. Dans le cas des chambres à gaz, Grok a précisé sur X à un internaute qui contestait sa réponse que « la liberté d’expression, protégée par la Constitution américaine qui régit la société X, permet l’examen critique des récits historiques, sans censure préalable. Qualifier de “négationnisme“ toute remise en question basée sur des preuves étouffe le débat ». On est au cœur du problème.

C’est la grande différence entre les États-Unis et l’Europe… Le négationnisme constitue un délit en Europe - pas aux États-Unis où le premier amendement a une conception beaucoup plus large de la liberté d’expression, qui permet aujourd’hui l’émergence de « vérités alternatives »

Elon Musk s’inscrit pleinement dans cette vision. Il affirmait il y a peu de temps que toute personne qui s’informe dans les médias traditionnels vit dans une « réalité alternative », inversant le sens des mots de manière orwélienne. Son encyclopédie Grokipédia s’inscrit aussi dans cette logique.

Cela pose la question de la régulation. L’Europe a tenté ces dernières années de se doter d’instruments de régulation du numérique, notamment face au contenu des grandes plateformes.

Mais les pressions américaines sont telles aujourd’hui, que la Commission européenne, soutenue par Paris et Berlin, prévoit d’assouplir cette régulation : c’est la porte ouverte à la désinformation à grande échelle [Le Quai d'Orsay nous précise que les changements soutenus par la France ne doivent pas affaiblir la lutte contre la désinformation. Dont acte]. L’Europe ne doit pas laisser Elon Musk décider de la définition des chambres à gaz."
https://www.radiofrance.fr/franceinter/ ... 25-2897311

Entre complotisme et IA la vérité va t-elle pouvoir se frayer un chemin ?

Nous voilà au cœur du problème.

[Once]

Le problème avec la philosophie d'Elon Musk, c'est que pour lui, la liberté passe au dessus de la vérité.

[Fonck1]

J'ai lu aussi que son IA avait généré des trucs pédopornographiques et autres....c'est le Musk ....

[Azial]

Le problème avec la philosophie d'Elon Musk, c'est que pour lui, la liberté passe au dessus de la vérité.

Sa vision de la liberté peut-être, mais c'est pas la vision de la liberté de tout le monde... pour ma part, je trouve que se permettre de faire n'importe quoi comme il le fait, même si c'est complètement nuisible, ce n'est pas de la liberté, c'est de la stupidité...

[vivarais]

J'ai lu aussi que son IA avait généré des trucs pédopornographiques et autres....c'est le Musk ....

L'IA n'est pas sensée penser comme MUSK ou d'autres mais par elle même
Si vous intégrez les mêmes données peu importe qui l'aura conçue elle donnera les mêmes conclusions
L'IA est conçue pour donner des réponses à une même donnée tout comme la lobotomisation chez les individus
Le jour où 'IA sera incluse dans les décision de justice , elle donnera les mêmes jugements dans tous les tribunaux selon le contenu des différents codes législatifs et non par appréciation personnelle
Elle ne tiendra pas compte comme dans le sketch de robert Lamoureux "monsieur le juge ; on n'a pas d'argent à la maison et ma maman et malade "
Tout ce que l'on nous compte aujourd'hui comme excuses l'était déjà par le passé

[Fonck1]

J'ai lu aussi que son IA avait généré des trucs pédopornographiques et autres....c'est le Musk ....

L'IA n'est pas sensée penser comme MUSK ou d'autres mais par elle même
Si vous intégrez les mêmes données peu importe qui l'aura conçue elle donnera les mêmes conclusions
L'IA est conçue pour donner des réponses à une même donnée tout comme la lobotomisation chez les individus
Le jour où 'IA sera incluse dans les décision de justice , elle donnera les mêmes jugements dans tous les tribunaux selon le contenu des différents codes législatifs et non par appréciation personnelle
Elle ne tiendra pas compte comme dans le sketch de robert Lamoureux "monsieur le juge ; on n'a pas d'argent à la maison et ma maman et malade "
Tout ce que l'on nous compte aujourd'hui comme excuses l'était déjà par le passé

on pourra ainsi châtier sarkosy ou Le pen de la vraie peine qu'ils méritent, et pas du minimum.

[vivarais]

L'IA n'est pas sensée penser comme MUSK ou d'autres mais par elle même
Si vous intégrez les mêmes données peu importe qui l'aura conçue elle donnera les mêmes conclusions
L'IA est conçue pour donner des réponses à une même donnée tout comme la lobotomisation chez les individus
Le jour où 'IA sera incluse dans les décision de justice , elle donnera les mêmes jugements dans tous les tribunaux selon le contenu des différents codes législatifs et non par appréciation personnelle
Elle ne tiendra pas compte comme dans le sketch de robert Lamoureux "monsieur le juge ; on n'a pas d'argent à la maison et ma maman et malade "
Tout ce que l'on nous compte aujourd'hui comme excuses l'était déjà par le passé

on pourra ainsi châtier sarkosy ou Le pen de la vraie peine qu'ils méritent, et pas du minimum.

Et aussi tous les autres ; ceux de Crépol , ceux qui refusent d'obtempérer et qui malgré avoir blessés des FDO n'ont que 35 h de TGI
Je crois que les nuisances de ceux ci sont plus importante que celles de Sarkozy ou MLP
L'IA tiendra compte de l'exactitude de faits et des mots et non une interprétation de ceux ci
Je vous rappelle qu'un homme a été il n'y a pas si longtemps condamné à perpétuité pour le meurtre de sa femme par simple intime conviction et non sur des faits et des preuves
La sentence par des humains n'est pas fiable car elle prend aussi en compte la sensibilité de celui qui la décide
comme la modération