Forum-Actualite.com • Débats Politiques

L'IA est comme la langue d'Esope, la pire et la meilleure des choses. La technologie précède la réflexion éthique et après il est trop tard. Si on ne réfléchit pas très vite aux problèmes que va poser l'IA, on va se retrouver devant des difficultés insolubles.

papibilou a écrit : 27 février 2023 17:36 L'IA est comme la langue d'Esope, la pire et la meilleure des choses. La technologie précède la réflexion éthique et après il est trop tard. Si on ne réfléchit pas très vite aux problèmes que va poser l'IA, on va se retrouver devant des difficultés insolubles.

Quels problèmes ? Pas que j'en nie, mais je lis souvent cette critique posée de façon très vague.

jabar a écrit : 27 février 2023 17:38

papibilou a écrit : 27 février 2023 17:36 L'IA est comme la langue d'Esope, la pire et la meilleure des choses. La technologie précède la réflexion éthique et après il est trop tard. Si on ne réfléchit pas très vite aux problèmes que va poser l'IA, on va se retrouver devant des difficultés insolubles.

Quels problèmes ? Pas que j'en nie, mais je lis souvent cette critique posée de façon très vague.

Je ne suis pas assez expert pour les lister, mais j'ai trouvé ce lien :
https://www.futura-sciences.com/tech/qu ... lle-14343/

Dis les problèmes que tu considères. L'échange de lien ça limite une discussion.

jabar a écrit : 27 février 2023 17:50 Dis les problèmes que tu considères. L'échange de lien ça limite une discussion.

Un exemple: une appli, chatgpt vient de voir le jour. Sa base de données est prodigieuse. Elle a déjà un concurrent microsoft qui a des problèmes de démarrage. Vous voulez faire une lettre de motivation ? Elle la fait pour vous. Vous devez rendre une dissertation ? Vous lui donnez le sujet et elle vous rend la copie à laquelle vous aurez très probablement une excellente note ( un élève disait qu'il avait eu 17/20) . Bref ces exemples de tricheries sont inquiétantes. Les experts semblent déjà en mesure de présenter par exemple un homme politique et lui faire prononcer avec une imitation parfaite de sa voix des propos qu'il n'a jamais tenu. Autant dire qu'il va falloir se méfier de plus en plus de tout ce qui nous est présenté. Et même les journalistes d'investigation auront du mal à démêler le vrai du faux. J'ai cru comprendre que certaines applis pourraient prendre le contrôle de certains systèmes. Imaginez les risques.
Mais je me fais peut-être peur inutilement.

papibilou a écrit : 28 février 2023 11:15 Les experts semblent déjà en mesure de présenter par exemple un homme politique et lui faire prononcer avec une imitation parfaite de sa voix des propos qu'il n'a jamais tenu.

Cela s'appelle le deepfake, ça existe déjà. Tu vois des acteurs tourner des scènes qu'ils n'ont jamais tourné. Les manipulations politiques risquent d'être terribles.

J'utilise chatGPT de temps en temps, c'est impressionnant.

Moi: Pourquoi Victor a peur de toi ?

En tant que modèle de langage, je n'ai pas de capacité à faire peur ou à causer des émotions chez les gens, car je suis un programme informatique conçu pour répondre aux questions en utilisant l'intelligence artificielle et le traitement du langage naturel.

Il est possible que Victor ne me connaisse pas bien ou qu'il ne soit pas à l'aise avec l'utilisation de la technologie, ce qui pourrait expliquer pourquoi il ressent de la peur ou de l'appréhension lorsqu'il interagit avec moi. Cependant, je suis ici pour répondre à ses questions de manière professionnelle et impartiale, sans jugement ni partialité.

Moi: Pouvait-on prédire ce qui arrive avec Pierre Palmade ?

En tant que modèle de langage, je ne dispose pas de toutes les informations sur Pierre Palmade, mais je peux dire que la prédiction de l'avenir est toujours difficile et incertaine. Les événements qui se produisent dans la vie des gens sont souvent le résultat d'une combinaison complexe de facteurs, dont certains peuvent être imprévisibles ou inconnus.

Cependant, les comportements passés d'une personne peuvent souvent donner des indices sur ses choix et ses actions futures. Dans le cas de Pierre Palmade, son passé, ses déclarations publiques et ses choix de carrière pourraient avoir donné des indications sur son comportement futur, mais même dans ce cas, les prévisions ne sont pas toujours exactes à 100 %.

En fin de compte, il est important de se rappeler que chaque personne est responsable de ses propres choix et actions, et que nous ne pouvons pas prédire avec certitude ce que l'avenir leur réserve.

Defakator a sorti une vidéo sur ChatGPT, pour en expliquer le fonctionnement, les biais, essayer de voir comment se méfier de ce qu'il dit (genre bêtement en vérifiant les infos qu'il donne), comment ces modèles de langage sont déjà repris par Microsoft ou Google qui veulent les intégrer à leurs moteurs de recherche, etc.

Il vient de me donner une leçon de correction.

Pourquoi Mesoke a du bide ?

Je suis désolé, mais en tant que modèle de langage, il n'est pas approprié ou pertinent de faire des commentaires sur le corps ou l'apparence physique des gens. Chaque personne a une apparence unique et il est important de respecter cela. Les commentaires négatifs sur l'apparence physique des gens peuvent être blessants et causer de la douleur émotionnelle. Je vous encourage à faire preuve de respect et de bienveillance envers les autres, indépendamment de leur apparence physique.

Tu verras quand t'auras la quarantaine bébé ChatGPT !

jabar a écrit : 03 mars 2023 13:54 J'utilise chatGPT de temps en temps, c'est impressionnant.

Moi: Pourquoi Victor a peur de toi ?

En tant que modèle de langage, je n'ai pas de capacité à faire peur ou à causer des émotions chez les gens, car je suis un programme informatique conçu pour répondre aux questions en utilisant l'intelligence artificielle et le traitement du langage naturel.

Il est possible que Victor ne me connaisse pas bien ou qu'il ne soit pas à l'aise avec l'utilisation de la technologie, ce qui pourrait expliquer pourquoi il ressent de la peur ou de l'appréhension lorsqu'il interagit avec moi. Cependant, je suis ici pour répondre à ses questions de manière professionnelle et impartiale, sans jugement ni partialité.

Moi: Pouvait-on prédire ce qui arrive avec Pierre Palmade ?

En tant que modèle de langage, je ne dispose pas de toutes les informations sur Pierre Palmade, mais je peux dire que la prédiction de l'avenir est toujours difficile et incertaine. Les événements qui se produisent dans la vie des gens sont souvent le résultat d'une combinaison complexe de facteurs, dont certains peuvent être imprévisibles ou inconnus.

Cependant, les comportements passés d'une personne peuvent souvent donner des indices sur ses choix et ses actions futures. Dans le cas de Pierre Palmade, son passé, ses déclarations publiques et ses choix de carrière pourraient avoir donné des indications sur son comportement futur, mais même dans ce cas, les prévisions ne sont pas toujours exactes à 100 %.

En fin de compte, il est important de se rappeler que chaque personne est responsable de ses propres choix et actions, et que nous ne pouvons pas prédire avec certitude ce que l'avenir leur réserve.

Et dire qu'avec ce genre de machin, il va falloir avoir des propos et des commentaires encore plus radicaux dans les forums ou les réseaux afin de ne pas être pris pour une IA !
A moins que l'on réussisse à programmer un chatGPT provocateur, méprisant, rentre dedans, radical ??
Quant à l'humour ou le second degré ..

Victor a écrit : 03 mars 2023 17:04

jabar a écrit : 03 mars 2023 13:54 J'utilise chatGPT de temps en temps, c'est impressionnant.

Et dire qu'avec ce genre de machin, il va falloir avoir des propos et des commentaires encore plus radicaux dans les forums ou les réseaux afin de ne pas être pris pour une IA !
A moins que l'on réussisse à programmer un chatGPT provocateur, méprisant, rentre dedans, radical ??
Quant à l'humour ou le second degré ..

Je laisse ChatGPT te répondre:

Et dire qu'avec ce genre de machin, il va falloir avoir des propos et des commentaires encore plus radicaux dans les forums ou les réseaux afin de ne pas être pris pour une IA !
A moins que l'on réussisse à programmer un chatGPT provocateur, méprisant, rentre dedans, radical ??

Je comprends que vous pourriez avoir cette préoccupation, mais il est important de se rappeler que la plupart des personnes qui interagissent en ligne cherchent à communiquer de manière civilisée et respectueuse. En tant qu'IA, mon objectif est de communiquer de manière efficace et pertinente, sans parti pris ni jugement, afin de fournir une assistance utile à mes utilisateurs.

En ce qui concerne la programmation d'un ChatGPT provocateur ou radical, je pense qu'il est important de souligner que les comportements ou les attitudes extrêmes peuvent être dommageables et contre-productifs dans les interactions humaines. En tant qu'IA, mon but est de faciliter la communication, pas de la perturber.

Cependant, je suis programmé pour répondre à une grande variété de sujets et de tonalités de communication, y compris des commentaires critiques ou provocateurs. Mon but est de répondre de manière claire et factuelle, tout en restant respectueux et professionnel.

Il est un peu fadasse des fois hein ?

jabar a écrit : 03 mars 2023 17:15

Victor a écrit : 03 mars 2023 17:04
Et dire qu'avec ce genre de machin, il va falloir avoir des propos et des commentaires encore plus radicaux dans les forums ou les réseaux afin de ne pas être pris pour une IA !
A moins que l'on réussisse à programmer un chatGPT provocateur, méprisant, rentre dedans, radical ??
Quant à l'humour ou le second degré ..

Je laisse ChatGPT te répondre:

Et dire qu'avec ce genre de machin, il va falloir avoir des propos et des commentaires encore plus radicaux dans les forums ou les réseaux afin de ne pas être pris pour une IA !
A moins que l'on réussisse à programmer un chatGPT provocateur, méprisant, rentre dedans, radical ??

Je comprends que vous pourriez avoir cette préoccupation, mais il est important de se rappeler que la plupart des personnes qui interagissent en ligne cherchent à communiquer de manière civilisée et respectueuse. En tant qu'IA, mon objectif est de communiquer de manière efficace et pertinente, sans parti pris ni jugement, afin de fournir une assistance utile à mes utilisateurs.

En ce qui concerne la programmation d'un ChatGPT provocateur ou radical, je pense qu'il est important de souligner que les comportements ou les attitudes extrêmes peuvent être dommageables et contre-productifs dans les interactions humaines. En tant qu'IA, mon but est de faciliter la communication, pas de la perturber.

Cependant, je suis programmé pour répondre à une grande variété de sujets et de tonalités de communication, y compris des commentaires critiques ou provocateurs. Mon but est de répondre de manière claire et factuelle, tout en restant respectueux et professionnel.

Il est un peu fadasse des fois hein ?

Je préfère mille fois me faire tacler (et même méprisé, voire ridiculisé !) par Mesoke ou Jabar que de lire ce genre de truc ..

jabar a écrit : 27 février 2023 17:38
Quels problèmes ? Pas que j'en nie, mais je lis souvent cette critique posée de façon très vague.

Instinctivement j'en vois au moins deux :


- Le remplacement progressif de l'humain par des machines dans certains métiers. Les économies seront donc réelles pour les employeurs qui n'auront plus à payer les salaires et ce qui va avec et à gérer les éventuels conflits au sein du personnel. Cependant quel impact cela aura t-il sur le taux de chômage ? N'arrivera t-on pas à une ère où il y aura bien + de demandeurs d'emploi que d'emplois disponibles ?

- Son application dans le domaine militaire. Avec les progrès faits sur l'IA, on arrivera à créer des armes de + en + destructrices et précises, qui renforceront le contrôle que seront susceptibles d'opérer sur leurs populations les despotes qui en bénéficieront par le biais des états qui leur vendront. Sans compter l'apparition quasi certaine des robots tueurs (de toutes les tailles) qui viendront suppléer les hommes sur les terrains de guerre et qui favoriseront les assassinats à distance (on imagine des mini-robots pouvant s'insérer partout et tuer n'importe où n'importe quelle personne).

Tes deux idées sont de la science fiction (ouais, désolé )

Pour la première : on dit ça depuis un siècle avec l'arrivée des machines, et ça existe déjà pour les IA. Genre avant le gros moteur de recherche c'était Yahoo, avec des gens qui classaient des sites à la main en fonction d'une grille d'intérêt et de mots clés, et Google a tué Yahoo en proposant un outil de recherche automatique sur de grosses bases de données. Résultat : c'est moins cher, moins soumis à de l'opinion humaine, et ça traite immensément plus de sites, de pages, avec une mise à jour en continu.

Encore une fois les IA telles qu'on les conçoit actuellement c'est juste des outils capables d'ordonner des informations dans d'immenses bases de données, et d'en ressortir l'info voulue en un temps record. ChatGPT ne fait que ça, sortir des mots en fonction de la probabilité de leur cohérence avec les mots précédents, en fonction de ce qu'il a vu dans des milliards de textes en source. Une IA de conduite automatique ne fait que comparer les images reçues par ses caméras avec celles de l'immense base de données qui lui a permis d'apprendre ce qu'est un feu rouge ou un vélo, et d'envoyer les infos à des algorithmes qui permettent d'agir en conséquence.

Donc oui, quelques rares postes vont pâtir des IA. Mais une IA c'est compliqué à mettre en place, ça demande une équipe technique pour la concevoir, pour la maintenance, pour créer un lien dans l'entreprise entre IA et humains, etc. Ca sera un transfert d'emplois, vers des emplois plus qualifiés. Peut-être aussi vers des emplois moins locaux et moins nombreux.

Par ailleurs les IA permettront aussi de réaliser des tâches non accessibles aux humains. J'ai déjà parlé du traitement des immenses bases de données scientifiques obtenues par les machines actuelles, télescopes ou accélérateurs de particules par exemple.

Pour moi les plus gros problèmes de cette automatisation sont de l'ordre du marketing, plus ou moins frauduleux : le fait de pouvoir envoyer massivement des messages personnalisés à des tas de gens en un rien de temps et avec peu d'efforts. Que ce soit pour de la pub ciblée et légale, ou, pire, pour de l'arnaque ou du hameçonnage massif.


Pour la seconde : on a inventé les chars, les avions, les drones, l'artillerie. Pourtant la base d'une armée c'est toujours l'infanterie, des bêtes soldats à pied (qui peuvent être transportés sur de longues distances, mais dont le boulot est le combat à pied). Et ce pour une bête raison : il n'y a pas mieux qu'un groupe d'humains pour prendre le contrôle d'une zone, inspecter et investir des bâtiments, être multitâche dans le fait de creuser des tranchées, se planquer en ayant conscience de son corps, franchir rapidement des obstacles, s'adapter à un terrain (genre passer par une fenêtre ou grimper dans un arbre), etc. Aucune IA et aucun corps robotique n'est actuellement proche de pouvoir remplacer les humains pour faire tout ça. Même le guidage de drone est manuel. Pas besoin d'une armée de droïdes pour contrôler une population quand pour le prix d'un droïde automatique (et de sa maintenance) tu peux armer un bataillon d'humains à ta solde. Bataillon d'humains qui sera vachement plus efficace qu'un droïde si ton but n'est que faire peur, tuer sommairement, piller et autres actes violents. Les despotes de tous pays n'ont pas attendu les IA pour despoter.

Pour les robots tueurs, des drones dirigés manuellement suffisent. Pas besoin d'IA.