L’Intelligence artificielle, péril pour l’humanité ?

Anthropologie, Paléontologie ...
Répondre
Rushkild
Posteur Neophyte
Posteur Neophyte
Messages : 17
Enregistré le : 15 septembre 2016 13:42

L’Intelligence artificielle, péril pour l’humanité ?

Message par Rushkild » 16 septembre 2016 18:28

L’Intelligence artificielle, péril pour l’humanité ?



Les articles se multiplient dans la presse en ce moment concernant la peur qu’inspirent les derniers exploits de l’intelligence artificielle. Les applications mais aussi les méthodes même de calcul connaissent aujourd’hui des révolutions. Cette évolution récente a inquiété des grands esprits de notre temps. Et c’est vrai que l’IA connaît aujourd’hui une mutation prodigieuse. Pour l’IA, aujourd’hui est déjà demain.

Voici un exemple de cette évolution : le logiciel Deep Blue a battu Gary Kasparov aux échecs en 1997. Vingt ans plus tard, le logiciel AlphaGo de Google a remporté la victoire en 2016 face au coréen Lee Sedol (ci-dessous), un des meilleurs joueurs mondiaux de go.
Image
Comment cela a-t-il été possible ? Les algorithmes d'AlphaGo sont plus perfectionnés que ceux de Deep Blue. Ce dernier n'aurait pas pu apprendre le go. AlphaGo présente les derniers progrès en termes d’apprentissage. Il allie la recherche Monte-Carlo (savant calcul de statistiques à partir de probabilités), l’apprentissage profond (ou deep learning) et la gestion de données (on parle de zetta-octet, un volume inaccessible aux ordinateurs classiques).

La différence majeure avec les anciens logiciels d'IA, c'est que la dernière génération est susceptible d’adaptation. AlphaGo sera demain capable de s'imposer dans toute activité pour laquelle il existe des règles strictes. Que restera-t-il aux humains ? Peu de choses. Les calculs étant réservés aux machines, il ne leur restera que le domaine de l’émotion.

Des voix autorisées se sont élevées pour mettre l’humanité en garde contre ce qu’elles estiment constituer un péril mortel pour l’espèce humaine. Stephen Hawking, Elon Musk et Bill Gates, entre autres, se sont exprimés sur le sujet.

Pour l’astrophysicien Stephen Hawking (ci-dessous), « réussir à créer une intelligence artificielle serait le plus grand événement dans l'histoire de l'homme. Mais ce pourrait aussi être le dernier. L'impact à court terme de l'intelligence artificielle dépend de qui la contrôle. Et, à long terme, de savoir si elle peut être tout simplement contrôlée ».
Image
Il précise ainsi sa pensée : « Une fois que les humains auront développé une intelligence artificielle, elle va prendre son envol et se reconstruire elle-même à un rythme toujours plus rapide. Les humains, limités par la lente évolution biologique, ne pourront suivre et seront remplacés. Quand les machines atteindront un stade critique où elles seront en mesure d'évoluer toutes seules, on ne pourra pas prédire à quel point leurs objectifs coïncideront avec les nôtres. »

Elon Musk (ci-dessous), fondateur de Tesla et SpaceX, n’est pas en reste, ajoutant : « Je pense que nous devrions être très prudents. Si je devais deviner ce qui représente la plus grande menace pour notre existence, je dirais probablement l'intelligence artificielle. Je suis de plus en plus enclin à penser qu'il devrait y avoir une régulation, à un niveau national ou international, simplement pour être sûr que nous ne sommes pas en train de faire quelque chose de stupide. Avec l'intelligence artificielle, nous invoquons un démon. Vous savez, ces histoires où il y a un gars avec un pentagramme et de l’eau bénite, et il est certain qu’il pourra contrôler le démon. Ça ne marche pas. »
Image
Pour Elon Musk, il existe une solution pour éviter l’apocalypse : « Je suis de plus en plus enclin à penser qu’il devrait y avoir une certaine surveillance réglementaire, peut-être au niveau national ou international, juste pour s’assurer que nous ne faisons pas quelque chose de très stupide ».

Bill Gates (ci-dessous), le célèbre co-fondateur de Microsoft, partage cette inquiétude et déclare : « je ne comprends pas pourquoi les gens ne sont pas inquiets. Je suis de ceux qui s'inquiètent de la super-intelligence. Dans un premier temps, les machines accompliront de nombreuses tâches à notre place et ne seront pas super-intelligentes. Cela devrait être positif si nous gérons ça bien. Plusieurs décennies plus tard cependant, l'intelligence sera suffisamment puissante pour poser des problèmes. Je suis d'accord avec Elon Musk et d'autres, et je ne comprends pas pourquoi les gens ne sont pas inquiets ».
Image
Si l’on se penche sur l’histoire de l’IA, on ne peut qu’être pris de vertige, effectivement. En présentant les choses de façon très schématique, on peut estimer que l’IA a vu le jour lors du séminaire de Darmouth il y a une soixantaine d’années. Le 31 août 1955, en effet, quatre experts de l'informatique alors naissante décident d'organiser un séminaire ayant pour but de faire en sorte qu’une machine puisse reproduire le processus de la pensée humaine.

Ce souhait initial mit du temps pour aboutir. Dans les années 1960-1970, les priorités allaient au développement du nucléaire et à l’élaboration d'ordinateurs puissants. Dans les années 1980, c'est l'Internet qui a focalisé sur lui les regards, attirant les capitaux. Mais, petit à petit, l’IA redevient à la mode avec le cinéma et Hollywood (ci-dessous, Terminator) :
Image
Les experts estiment que la seconde naissance de l'intelligence artificielle date de 1997, lorsque l'ordinateur Deep Blue, conçu par IBM, l'a emporté sur le champion du monde d'échecs Gary Kasparov. Ces super pouvoirs de la machine furent confirmés en 2001 par Watson, ordinateur intelligent conçu par IBM qui a battu tous les spécialistes du jeu Jeopardy aux États-Unis. Le monde entier a découvert à l’occasion de ce show très ludique à l’américaine qu’un ordinateur pouvait comprendre des questions complexes, faire des probabilités, répondre à la vitesse de l’éclair et déjouer les pièges tendus.

Actuellement, la recherche se focalise surtout sur le deep learning. Dorénavant, et c’est peut-être le plus important pour l’avènement d’une nouvelle génération de systèmes dotés d’IA, il est désormais possible "d'apprendre à apprendre" aux machines. Avec cette caractéristique, la machine ne se contente plus de gérer l’information, elle est capable d’innovation (design de chambres créé par deep learning ci-dessous).
Image
C'est le machine learning. Des programmes travaillant comme nos cerveaux sous forme de réseaux de neurones reliés les uns aux autres ont été mis au point, d'où l'image de cet apprentissage « en profondeur » (schéma ci-dessous).
Image
La machine, devenue semblable au cerveau humain, fonctionne comme lui en trois dimensions, avec plusieurs couches de connexions électriques reproduisant les connexions du cerveau humain. Elle deviendra vite encore plus complexe que les cent milliards de neurones du cerveau humain. Les constructions mathématiques imitent en effet parfaitement les neurones et leurs signaux multiples, permettant à l’ordinateur de dépasser facilement la machine humaine.

Les applications s’orientent surtout aujourd’hui vers la reconnaissance d’images. Avec ses huit cents millions de photos téléchargées chaque jour sur son site, Facebook est naturellement très intéressé par le deep learning. Les capitaux en jeu sont sans borne. Reconnaissance vocale, programmes de traduction, les recherches se développent de façon exponentielle dans de multiples secteurs donnant à certains, peut-être à juste titre, de légitimes frayeurs.


Rushkild

Avatar du membre
sihanouk
Posteur Giganovesque
Posteur Giganovesque
Messages : 3088
Enregistré le : 18 novembre 2015 12:03
Localisation : Bretagne Ouest
Genre :

Re: L’Intelligence artificielle, péril pour l’humanité ?

Message par sihanouk » 17 septembre 2016 11:26

Ils y a des gens qui s'amusent, en informatique. Ils innovent. Et puis il y a la grande majorité qui ont besoin de l'informatique pour travailler.
C'est un peu comme les voitures : pourquoi en construire qui vont à 200 kms/heure ?
La Sagesse n'est pas de ce monde.

Rushkild
Posteur Neophyte
Posteur Neophyte
Messages : 17
Enregistré le : 15 septembre 2016 13:42

Re: L’Intelligence artificielle, péril pour l’humanité ?

Message par Rushkild » 17 septembre 2016 12:20

Bonjour, et merci pour votre réflexion. ;)
Personnellement, je pense que personne ne s'amuse, hélas ! L'image du savant fou est un leurre. L'IE est une industrie et un commerce. On tente de trouver LE produit innovant qui va se vendre par millions d’exemplaires. Ce produit va répondre à un besoin déjà existant ou être totalement inutile, peu importe. Le cas échéant, des campagnes publicitaires bien menées vont faire en sorte que le produit en question apparaisse comme indispensable. :icon_hmm:
Bonne journée à vous, :)
Rushkild

Spooky
Posteur Neophyte
Posteur Neophyte
Messages : 22
Enregistré le : 20 août 2020 19:06
Genre :

Re: L’Intelligence artificielle, péril pour l’humanité ?

Message par Spooky » 24 septembre 2020 07:26

Rushkild a écrit :
16 septembre 2016 18:28
L’Intelligence artificielle, péril pour l’humanité ?

La machine, devenue semblable au cerveau humain, fonctionne comme lui en trois dimensions, avec plusieurs couches de connexions électriques reproduisant les connexions du cerveau humain. Elle deviendra vite encore plus complexe que les cent milliards de neurones du cerveau humain. Les constructions mathématiques imitent en effet parfaitement les neurones et leurs signaux multiples, permettant à l’ordinateur de dépasser facilement la machine humaine.

Rushkild
Bonjour,

Beaucoup de ce que tu a écrit est tout à fait correct. Mais pas cela.

Il est totalement hors de portée de faire 100 milliards de neurones artificiels réalistes aujourd’hui...même un seul... :content36 et je ne parle pas de leur apprendre quelque chose, ce qui est toujours hors de portée pour des réseaux temporels récurrents et non-supervisés. :ghee:

J’en sais quelque chose, ca fait plus de 30 ans que je bosse dessus. L’IA actuelle est 100% stupide et personne n’a de piste sérieuse pour améliorer la situation (j’entends dans le milieu de la recherche, dans les médias tout est possible :snif: ...)

Avatar du membre
coincetabulle
Posteur Titanesque
Posteur Titanesque
Messages : 9272
Enregistré le : 07 avril 2009 11:17
Genre :

Re: L’Intelligence artificielle, péril pour l’humanité ?

Message par coincetabulle » 02 novembre 2021 21:56

je ne suis pas spécialiste mais au regard de ce que je constate dans les produits actuels pourtant qualifiés d'IA, ça me semble relever d'avantage d'une séries de script pré établis et de mémorisation.
rien à voir avec ce qui défini le terme intelligence.
le jour où une véritable IA sera mise au point, je pense que le niveau d'emmerdement dans lequel on se trouvera sera directement proportionnel au pouvoir de décision qu'on lui aura attribué.
le chômage n'augmente pas, il y a un manque d'emploi.
Muriel Penicaud ministre du travail. France-Inter le 30/07/2018.
"y a pas que les bonbons qui font tomber les dents" célèbre citation de la BAC nantaise.

Avatar du membre
Mesoke
Posteur Giganovesque
Posteur Giganovesque
Messages : 3005
Enregistré le : 03 juillet 2020 09:59
Localisation : Cap Vert
Genre :

Re: L’Intelligence artificielle, péril pour l’humanité ?

Message par Mesoke » 26 novembre 2021 10:46

Cette vidéo parle justement de bot, d'intelligence artificielle et d'autres machins bluffants, genre un générateur de fausses photos de visage de gens. Mais le truc que j'ai trouvé le plus bluffant, c'est vers 45:30 et ça parle d'une IA de Google avec synthèse vocale. Elle appelle toute seule un salon de coiffure au hasard pour prendre un rendez-vous, elle réagit aux informations données par la dame du salon de coiffure, répond avec une bonne intonation, des mimiques de langage, etc. Si on ne m'avais pas dit que c'est une IA je ne l'aurais jamais deviné. Et ce à l'oral. On est loin des clichés cinématographiques des IA qui parlent avec des voix de robot.

Il me semble aussi que dans cette vidéo ils parlent de l'IA qui a été montée sur Reddit, le plus gros réseau de forums américains. Et qui a posté automatiquement des messages argumentés et sourcés en réponse à plein de sujets, en créant des phrases correctes et tout. Elle ne s'est faite démasquer que parce que sa fréquence de réponse était largement trop rapide pour des humains, de jour comme de nuit, et avec des réponses sur des sujets trop divers pour qu'un humain seul puisse les faire. Mais à part cette fréquence de réponse surhumaine, personne n'avait capté que c'était une IA en lisant les messages seuls.

Avatar du membre
coincetabulle
Posteur Titanesque
Posteur Titanesque
Messages : 9272
Enregistré le : 07 avril 2009 11:17
Genre :

Re: L’Intelligence artificielle, péril pour l’humanité ?

Message par coincetabulle » 03 décembre 2021 00:15

corrige moi si je me trompe mais tu ne parles que d'un programme conçu pour réagir à des stimulis pré établis. et peu importe que ce soit avec l'intonation ou les mimiques de langage, ça reste quoi qu'il arrive un programme conçu pour réagir d'une manière pré établie.
c'est un peu le reproche que je fais à ce terme d''iA" qui ne correspond en aucune façon à l'intelligence. le terme est galvaudé.
dans le même genre de schéma, le correcteur de mon smartphone est une IA parce qui anticipe l'orthographe de mon texte. c'est loin d'être une intelligence ...
le chômage n'augmente pas, il y a un manque d'emploi.
Muriel Penicaud ministre du travail. France-Inter le 30/07/2018.
"y a pas que les bonbons qui font tomber les dents" célèbre citation de la BAC nantaise.

Avatar du membre
Mesoke
Posteur Giganovesque
Posteur Giganovesque
Messages : 3005
Enregistré le : 03 juillet 2020 09:59
Localisation : Cap Vert
Genre :

Re: L’Intelligence artificielle, péril pour l’humanité ?

Message par Mesoke » 03 décembre 2021 10:44

coincetabulle a écrit :
03 décembre 2021 00:15
corrige moi si je me trompe mais tu ne parles que d'un programme conçu pour réagir à des stimulis pré établis. et peu importe que ce soit avec l'intonation ou les mimiques de langage, ça reste quoi qu'il arrive un programme conçu pour réagir d'une manière pré établie.
c'est un peu le reproche que je fais à ce terme d''iA" qui ne correspond en aucune façon à l'intelligence. le terme est galvaudé.
dans le même genre de schéma, le correcteur de mon smartphone est une IA parce qui anticipe l'orthographe de mon texte. c'est loin d'être une intelligence ...
On n'a pas codé des algorithmes spécifiques aux stimuli auxquels les IA doivent répondre. On a codé un système d'apprentissage, et les IA ont appris d'elles-mêmes en se référant aux énormes bases de données qu'on leur a fourni. Par exemple pour les voitures sans conducteur, on donne aux IA qui les pilotent des tonnes de photos de voitures, de camions, de feux rouges, feux verts, panneaux en tous genres, etc, et les IA apprennent à les reconnaître en fonction de ce que voient leurs caméras. C'est d'ailleurs pour ça qu'on a des captcha sur lesquels on a une image segmentée en cases, dont on doit choisir, par exemple, toutes les cases contenant un feu tricolore, un bus, une voiture, etc. C'est fait pour créer l'énorme base de données, et les résultats du captcha par leurs utilisateurs permettent de nous faire "corriger" cette base de données. C'est le principe du deep learning.

Et ce système pose un problème, qui est évoqué dans la vidéo que j'ai postée au-dessus : vu que les IA apprennent en fonction d'une base de données, si celle-ci est biaisée alors l'IA sera biaisée. On a notamment eu le coup avec une IA qui devait apprendre en discutant avec des utilisateurs en ligne, certains parmi ceux-ci ont balancé plein d'infos genre raciste, et l'IA est devenue raciste ...

Et je ne sais pas si on peut parler d'intelligence. Mais intelligence artificielle peut définir ce nouveau concept. C'est différent de l'intelligence humaine ou de l'animale. C'est autre chose.

Répondre

Retourner vers « AUTRES SCIENCES »