Message
par Mesoke » 29 février 2024 12:52
Non, ChatGPT n'est pas woke. Ca c'est juste le titre putaclic de l'article d'Europe 1, la chaine de Bolloré. Mais l'article ne parle même pas de wokisme ...
Par contre deux choses :
- ChatGPT est bridé sur plein de sujets, pour éviter les dérives. Il base ses réponses sur une immense base d'informations trouvées sur le net, dans lesquelles ont peut trouver tout et n'importe quoi. Donc sont bloqués en dur dans le programme les propos négationnistes, sexistes et compagnie. Car ChatGPT n'est pas intelligent, il ne comprend pas ce qu'il écrit. C'est juste un programme qui va fouiller dans sa base de données les occurrences qui correspondent aux mots qu'on lui fournit pour voir avec quels autres mots ils sont généralement associés, et qui les recrache tout en les enrobant dans des jolies phrases bien construites. Mais il ne capte rien à la phrase ainsi créée. Ces limites ont été mises en place pour éviter ce qui est arrivé il y a quelques années à Tay, une autre IA conversationnelle testée par Microsoft. Comme c'est précisé dans ton second lien, il a fallu moins d'une journée de pourrissage de sa base de données par des utilisateurs d'extrême droite pour que cette IA devienne d'extrême droite, en promouvant le nazisme ou le meurtre de certaines communautés
- Ca soulève un problème que j'ai déjà évoqué dans un autre sujet sur les IA : elles sont principalement programmées par des hommes blancs américains de la classe moyenne supérieure, et donc elles ont des comportements d'hommes blancs américains de la classe moyenne supérieure. Et ce parce qu'encore une fois ces IA ne sont pas intelligentes. Vu qu'elles se contentent d'aligner des mots en relation avec ceux demandés, il faut qu'elles puissent quantifier la probabilité de réponse la plus pertinente. Or cette quantification se fait notamment au moyen de "poids" attribués à certaine valeur, poids mis en place par les informaticiens, majoritairement des hommes blancs américains de la classe moyenne supérieure. Mais aussi ChatGPT a été entrainé par des humains d'Open AI, qui ont "corrigé" ses réponses pour lui permettre d'affiner ce qu'il doit répondre. Or ces humains ... sont principalement des hommes blancs américains de la classe moyenne supérieure, avec la sensibilité qui va avec. Nul doute qu'une IA chinoise n'aura pas les mêmes réponses qu'une IA américaine ou russe. Et nul doute que ces IA influenceront des millions de gens par leurs réponses biaisées.
Mais ChaGPT n'est pas woke, n'est pas contrôlé par des "wokistes", ne fait pas de propagande. Il trouve juste ses infos dans des données existantes sur le net.
Ce qui ne les empêche pas d’affirmer que ceci ou cela ......ne l’est pas 