« L’intelligence artificielle intégrale pourrait signifier la fin de la race humaine »

 |   |  279  mots
Le brillant physicien britannique, qui souffre d'une dystrophie neuromusculaire attribuée à une sclérose latérale amyotrophique (SLA), se sert pour communiquer d’un logiciel utilisant une forme basique d’intelligence artificielle.
Le brillant physicien britannique, qui souffre d'une dystrophie neuromusculaire attribuée à une sclérose latérale amyotrophique (SLA), se sert pour communiquer d’un logiciel utilisant une forme basique d’intelligence artificielle. (Crédits : Reuters)
Le brillant physicien Stephen Hawking s’inquiète des conséquences du développement de cette technologie qui pourrait dépasser l’intelligence humaine. Elon Musk, le fondateur de Tesla et SpaceX, estime aussi qu'elle constitue « une menace existentielle. »

Personne ne l'accusera d'obscurantisme et pourtant l'éminent physicien britannique Stephen Hawking ne cache pas son inquiétude à l'égard de l'intelligence artificielle. Interviewé par la BBC, le scientifique, qui souffre d'une dystrophie neuromusculaire attribuée à une sclérose latérale amyotrophique (la SLA qui a fait parler d'elle cet été avec les « Ice Bucket Challenges »), et se sert pour communiquer d'un logiciel utilisant une forme basique d'intelligence artificielle, a en effet déclaré :

« Le développement d'une intelligence artificielle intégrale pourrait signifier la fin de la race humaine. »

S'il reconnaît que les formes primitives d'intelligence artificielle développées jusqu'ici se sont révélées très utiles, ce spécialiste des trous noirs, âgé de 72 ans, redoute les conséquences de l'évolution de cette technologie si cette dernière venait à dépasser l'intelligence humaine, car elle saurait se recréer par elle-même et se re-développer à grande vitesse.

« Les humains, qui sont limités par leur évolution biologique lente, ne pourraient pas rivaliser et seraient remplacés. »

Un autre esprit brillant qu'on ne peut soupçonner de technophobie, l'Américain Elon Musk, le fondateur de Tesla Motors et de SpaceX, a récemment exprimé lui aussi ses craintes :

« Je pense que nous devrions être très prudents au sujet de l'intelligence artificielle. C'est sans doute notre plus grande menace existentielle. Je suis de plus en plus convaincu qu'il devrait y avoir une forme de surveillance réglementaire, au niveau national et international, afin de s'assurer qu'on ne fasse rien de très stupide » a-t-il déclaré devant des étudiants du MIT en octobre dernier. « Avec l'intelligence artificielle, on invoque le démon. »

Réagir

Votre email ne sera pas affiché publiquement
Tous les champs sont obligatoires

Commentaires
a écrit le 07/05/2015 à 19:33 :
Cela démontre surtout qu'un spécialiste des trous noir n'est ni un spécialiste du cerveau humain ni un spécialiste en informatique.
L'être humain est le produit de million d'années d'évolution au cours desquelles il a dû survivre. Son comportement est donc fortement influencé par la nécessité de survie, la sienne ou celle de l'espèce c'est à dire ses descendants.
A l'inverse une conscience artificielle n'est pas le résultat d'une telle évolution et n'aurait donc aucun désir de survivre (ni de se suicider) et ne serait pas portée sur tout ce qui favorise cette survie comme la domination de son entourage ou l'élimination des espèces concurrentes.
Bref, à moins que l'on cherche délibérément à programmer dans une machine les mêmes motivations que celles de l'être humain il n'y a aucune raison qu'une intelligence artificielle soit une menace pour nous...
a écrit le 20/12/2014 à 11:52 :
Je ne pourrais que conseiller que la lecture du cycle de la Culture de Ian Banks pour voir ceci d'un tout autre oeil que celui d'un brillant cerveau emprisonné dans son corps, et déjà dépendant de morceaux d’intelligence artificielle pour exister...
a écrit le 15/12/2014 à 14:27 :
Einstein le disait avant lui
a écrit le 07/12/2014 à 9:07 :
Pour le moment il n'y a rien d'intelligent dans l'intelligence artificielle... Et ce n'est pas pour demain. Ce terme qui fait frissonner les idiots désigne simplement un corpus d'algorithmes statistiques. SH parle d'un événement dont la probabilité d'occurence est aussi grande que celle de voyager dans un trou de vers...
a écrit le 05/12/2014 à 23:35 :
Le problème est que nous ne connaissons rien de nous, ni de notre intelligence ni et encore moins de ce qu'est notre conscience. Alors il est possible que nous ne connaissions rien non plus des futurs robots et programmes d'IA associés par le net à une capture d'évènements et une mémoire de type "big data". Nous sommes donc en effet incapables de prédire ce qui arrivera...
a écrit le 04/12/2014 à 13:01 :
va falloir mettre en place sa alors ^^
Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu'un être humain soit exposé au danger.
Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la Première loi.
Un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la Première ou la Deuxième loi.
Réponse de le 11/12/2014 à 9:40 :
La première loi m'a toujours paru étrange, en imposant au robot de prendre des initiatives qu'un ordre humain ne peut arrêter selon la 2e loi.
Réponse de le 20/12/2014 à 11:49 :
Vous avez oublié la loi Zéro, certes apparue par la suite, s'agissant de l'action sur la civilisation, permettant malgré tout de nuire a un être humain...
a écrit le 04/12/2014 à 12:56 :
skynet becomes self-aware
a écrit le 04/12/2014 à 12:01 :
Il n'y a rien d'intelligent dans l'IA, de l'artificiel sûrement, et beaucoup de silicium. Du sable en fait. L'homme est déjà suffisamment "intelligent" pour faire des conneries qu'il n'est pas utile de créer une "intelligence supérieure" qui devrait donc faire des "conneries supérieure". Mais dans le domaine des conneries, l'homme est de toute manière indétronable.
Réponse de le 04/12/2014 à 15:08 :
Tout simplement ...
Réponse de le 20/12/2014 à 11:50 :
Dit autrement, le match est ouvert pour savoir qui de l'intelligence artificielle ou de la connerie naturelle réussira a nous envoyer au tas le plus vite :-)
a écrit le 04/12/2014 à 11:14 :
ON NE PEUT ALLEZ CONTRE LE PROGRES ? MAIS L HOMME DOIT VEILLEZ A LE METRISSER???
a écrit le 04/12/2014 à 9:09 :
L'intelligence artificielle sera dans tous les cas incapable de rivaliser avec la connerie humaine. Et c'est ça qui nous sauvera.
Réponse de le 04/12/2014 à 11:02 :
et vous avez parfaitement raison
Réponse de le 04/12/2014 à 11:06 :
Bien vu!
a écrit le 04/12/2014 à 7:53 :
Et la programmation d'assaut ou Resto du cœur ,politique ou abbé pierre ...le problème et là ....
a écrit le 04/12/2014 à 5:23 :
Au train où vont les choses on perçoit bien que "....une transformation radicale de la société est en cours. Il est à craindre que l'intelligence artificielle puisse être couplée avec l'intelligence humaine à l'intérieur du cerveau..." suivant récit "les corps indécents". En quelques petites décennies quelle révolution dans le domaine informatique dont internet en est le meilleur exemple.
a écrit le 04/12/2014 à 3:21 :
Complètement faux, l'intelligence artificielle est là pour servir d'esclave aux humains, et donc serait utile, et remplaçerait les vrais esclaves humains. Décidement, Hawking raconte n'importe quoi...
Réponse de le 04/12/2014 à 6:05 :
C'est sur, vous détenez la vérité !
Réponse de le 04/12/2014 à 8:22 :
L'intelligence artificielle en est à ses débuts. Elle sert déjà à dire aux humains ce qu'ils doivent faire ainsi que quand et comment ils doivent le faire. On le voit bien dans les entreprises. C'est assez insidieux car au départ, c'est une aide apportée à l'humain, puis celui-ci devient un simple exécutant. Même les cadres ne sont plus à l'abri car les logiciels deviennent de plus en plus pointus.
Réponse de le 04/12/2014 à 9:37 :
Peu importe, l'IA obéit aux ordres des humains et ne prend aucune décision seule. Si l'homme lui demande de faire du mal, ça sera à cause de l'homme, pas à cause de l'IA. Le vrai coupable c'est l'homme, pas l'IA.
Réponse de le 04/12/2014 à 10:20 :
EXAT? ON LE VOIE DEJA AVEC LES DROMES? ENTRE DE MAUVAISSES MAINS ? SURTOUS MILITAIRES???
Réponse de le 04/12/2014 à 10:56 :
Les drones (en Drôme ?) militaires sont télécommandés, pas autonomes, sinon, grand danger !
Réponse de le 04/12/2014 à 11:06 :
Au moins, l'IA saura écrire correctement !
Réponse de le 04/12/2014 à 11:40 :
mdr c'est tellement vrai
Réponse de le 04/12/2014 à 11:42 :
De droles de drones en Drome ?? mais que fait Rome pour les Rom
Jeux de mot Ramuncho !!!!
Réponse de le 11/12/2014 à 9:49 :
Et si l'IA est mise au service de dictatures ? Dictatures qu'elle manipule dans un second temps...
a écrit le 04/12/2014 à 0:29 :
D'une IA programmée pour aider l'espèce humaine à une évolution de celle-ci capable de se retourner contre cette même espèce, il se passerait pas mal de temps et de travaille de programmation. L'homme aura suffisamment de temps pour arrêter les risques.

Sans parler du fait qu'il n'y aura pas une mais plusieurs IA dont on pourra programmer quelques unes pour faire face à celle qui met l'humanité en danger.

Le vrai risque est l'IA programme pour la guerre.
a écrit le 03/12/2014 à 23:26 :
Il n'est pas difficile de comprendre la souffrance que ce chercheur ressent. D'autres mathématiciens célèbres ont autant souffert. Sauf que l'"intelligence" est un concept aussi inatteignable que la complète définition de la "liberté", du respect ou de la perfection. (religions s'appuyant d'ailleurs dessus). Un humain ou n'importe quel être vivant, animal ou végétal, aura toujours LA créativité nécessaire que ne pourra jamais posséder une machine. Logique.
Réponse de le 04/12/2014 à 0:45 :
L'intelligence ne peut se suffire à elle-même. Il faut nécessairement une référence pour l'évaluer et il est assez prétentieux de notre part de nous situer au sommet de l'échelle de référence tandis que nous ne disposons d'aucune certitude concernant nos origines.
a écrit le 03/12/2014 à 23:00 :
Terminator arrive....
En même temps quand on sait que des hommes pensent encore que la couleur de peau détermine l'intelligence
Et que l'un d'eux a même osé dire "l'homme africain n'est pas assez rentrer dans l'histoire" du haut de ça petite cinquantaine !!!
Réponse de le 03/12/2014 à 23:28 :
Très juste. J'en ai discuté encore hier avec Superman qui m'a dit qu'il était fâché avec la belle au bois dormant à cause de ça.
J'espère que ça va s'arranger...
Réponse de le 04/12/2014 à 0:10 :
Toujours le bon gaucho de service prêt à ressortir ses diatribes sur Sarko, a n'importe quel moment et pour n'importe quelle ocaz
Réponse de le 04/12/2014 à 0:53 :
Remplacez "couleur de peau" par "héritage génétique" et essayez de composer un propos "intelligent" plutôt que répéter bêtement le verset politiquement correct antiraciste. Expliquez-nous aussi pourquoi les "noirs" performent dans le sport?
Réponse de le 04/12/2014 à 11:17 :
CRC32 +1
Pour le sport -1. Les blancs sont largement plus performants dans le sport :
ex football, tennis, rugby, handball, natation, arts martiaux, la plupart des disciplines en athlétisme, sports extrêmes et tous les sports de précisions.
a écrit le 03/12/2014 à 22:05 :
il a parfaitement raison, aussi par ce que l homme n est pas pres de s assagir
a écrit le 03/12/2014 à 22:01 :
Attendons avec impatience de nous prosterner devant nos nouveaux maître.
a écrit le 03/12/2014 à 21:38 :
Entre l'intelligence artificielle cybernétique et la bêtise inhumaine du mur des cons, que vaut-il mieux ? Voilà un thème pour un roman philosophique...
a écrit le 03/12/2014 à 21:08 :
Tous le monde rigole. Comme devaient rigoler ceux qui lisaient dans la science fiction qu'on pourrait un jour construire des navires sous-marins, des avions, aller sur la Lune, modifier le code génétique, avoir des voitures qui conduisent automatiquement...
a écrit le 03/12/2014 à 18:33 :
Il existe encore des individus crédules pour écouter les sornettes de ce mystificateur? Le handicap seul ne peut excuser toutes les bêtises qu'il débite du haut de son fauteuil.
a écrit le 03/12/2014 à 18:08 :
Bonne nouvelle !!!!!!!!!!! L’intelligence artificielle intégrale pourrait signifier la fin de la race humaine ENARQUE !!!!!
Réponse de le 03/12/2014 à 21:25 :
C'est sûr ! Ce sont les politiques qui ont le plus à craindre: remplacer l'incompétence, la vantardise, le clientélisme et pour certains la corruption par la logique pure et dure...si les robots ont été programmés par...mais par qui au fait?
Réponse de le 04/12/2014 à 2:37 :
mais il y en a qui le veulent.. un gouvernement et une économies dirigés par une ou des intelligences artificielles. mais après serions-nous prêts à accepter ses décisions/déductions ? une partie du peuple non, une autre partie oui. Qu'est ce qui justifie l'obéissance ? la légitimité, et si un jour nous savons que telle intelligence nous serait supérieure alors nous deviendrons donc esclaves et dépendants d'elle ? avec l'intelligence artificielle reviendrait le communisme et le totalitarisme.
a écrit le 03/12/2014 à 18:08 :
Bah, pour l'instant, moi j'attends de voir une IA digne de ce nom. Pour l'instant, je n'en ai pas vue.
a écrit le 03/12/2014 à 17:48 :
Pour commencer, le genre humain ne constitue pas une race mais une espèce, au même titre que les loups ou les tigres, c'est à dire une population ou un ensemble de populations dont les individus peuvent effectivement ou potentiellement se reproduire entre eux et engendrer une descendance viable et féconde, dans des conditions naturelles.
a écrit le 03/12/2014 à 17:47 :
C'est pas ce British-là celui qui a découvert les trous noirs pour quelques années après dire qu'il n'y jamais existé de trous noirs ? voilà quelqu'un d'autant crédible que nos médias….
Réponse de le 03/12/2014 à 21:01 :
Vous connaissez beaucoup d'êtres humains, et notamment scientifiques, qui remettent en cause leur propre découverte, alors que cette dernière leur a apporter la gloire et la reconnaissance ?
a écrit le 03/12/2014 à 17:42 :
Kanu, votre réponse est d'une naïveté...

Les questions que vous posez peuvent être poser dans le sens inverse, pourquoi ne pas nous détruire? pourquoi nous aider? etc....

Une chose qui est imprimé dans notre cerveau reptilien et la survie, à partir du moment ou tu fais comprendre à un être vivant que tu va le tuer il va chercher à survivre quitte à te détruire pour survivre. Hors si nous concevons quelque chose de trop intelligent, disons bien trop intelligent pour nous, il n'y à rien mais rien du tout qui te prouve que pour anticipé ça possible suppression il ne cherche pas à éliminer la cause probable de sa disparition autrement dit nous. Non franchement ton raisonnement ne m'inspire guère.
a écrit le 03/12/2014 à 17:20 :
J'arrive pas à comprendre pourquoi tout le monde part du principe qu'à partir du moment où une intelligence artificielle intégrale sera crée, les robots "vont tous vouloir nous tuer"... Sérieusement, quel postulat permet d'affirmer que l'IA va se retourner contre nous. Pour quelle raison ? Parce qu'on ne leur est plus utile ? Y'a plein de choses dans la vie qui me sont inutiles, ça me donne pas envie de les massacrer pour autant.

Et si les IA évoluent plus vite que les humaines, pourquoi ils nous fileraient pas un coup de pouce, d'espèce inorganique à espèce organique ? Ca sonnerait la fin de pas mal de jobs, remplacés par des robots, ok. Mais les robots ne connaissant pas la pénibilité du travail ni la douleur, pourquoi on terminerait pas du coup tous dans nos canapés à laisser les robos faire le boulot, vu que ça ne le dérangeraient pas, eux ? Pourquoi ça ne serait pas le début de l'Âge d'Or de l'Homme, ou nous pourrons nous concentrer sur des problèmes moins terre à terre et plus métaphysiques ? Où on ne sera plus en mode "manger dormir avoir chaud sécurité" ? En gros, où on pourra enfin ne plus passer 98% de notre temps à essayer de SURvivre, mais juste simplement vivre ?

En gros, oui ça changerait la face du monde comme on le connaît, mais les scénarios post apocalyptiques a la Terminator ou I Robot sont totalement sans fondement raisonnable. Je crois qu'ils sortent juste de l'imagination de réalisateurs trop complexés pour arriver à accepter le fait qu'un jour, l'Homme ne sera plus l'espèce la plus intelligente et ne pourra plus utiliser cette excuse pour massacrer des ecosystèmes et des espèces entières. Sans faire mon hippie écolo...
Réponse de le 03/12/2014 à 17:30 :
Ton postulat est sans doutes fondé, seulement si on prend le point de vue stricte de l'évolution, l'homme et l'intelligence artificielle ne pourraient coéxister.

L'homme à prospérer et remplacer pas mal d'espèce dans le monde entier, et il y est arriver car il à survécu à toute les grandes catastrophes.

Maintenant si une, ou des machines sont supérieur d'un point de vue intellectuel avec la capacité de mieux s'adapter, de vivre plus longtemps et de mieux conserver les connaissances, alors elles vont se multiplier.

Ensuite, les besoins en espace et en énergie vont se confronter : Notre énergie est tiré majoritairement de la nourriture et de l'eau - Ainsi que du soleil - Pour des formes electronique il faudra de l'énergie électrique.

Aujourd'hui on a déjà des crises de l'énergie, alors demain ? Avec en plus pleins d'autres "robot" à "nourrir" ?

C'est pas pessimiste ou apocalyptique, c'est la nature : Celui qui reste et qui survit, c'est celui qui s'adapte le mieux pour s'approprier les ressources.
Réponse de le 03/12/2014 à 18:03 :
Salut Kanu,
Tout simpllement parce que non seulement l'IA va se rendre compte que l'humain lui sert a rien mais surtout qu'il peut la "débrancher" ce qui au final constitue un danger pour elle...
Réponse de le 03/12/2014 à 20:51 :
Cf. les films Matrix 1,2,3.
Réponse de le 04/12/2014 à 0:31 :
@Bogdan

Une IA aura toujours besoin de son créateur pour corriger ses bugs puisqu'elle sera bien incapable de les déceler par elle-même. Il est même probable que de l'unicité de ses défauts se construise son identité et pourrait naître alors une discrimination entre générations successives. Tout ceci n'est que pure spéculation et le fruit du délire de penseurs animés par une lassitude de l'espèce humaine bien incapable de corriger ses propres vices sans intervention divine.
a écrit le 03/12/2014 à 16:53 :
année 2068: les scientifiques ont enfin compris pourquoi depuis 30 ans toutes les intelligences artificielles cessaient de fonctionner après une demi-seconde, elles se suicidaient parce qu'elles avaient compris leur condition.
Réponse de le 04/12/2014 à 11:37 :
Une intelligence artificielle n'implique pas qu'elle soit consciente.
Réponse de le 04/12/2014 à 14:35 :
C'est toute la question : une IA peut-elle un jour avoir une forme de conscience de soi et, par suite, une volonté, le cas échéant tournée contre l'homme.
J'en doute, mais bon je suis pas spécialiste.
Je prends plus au sérieux les théories sur la "post-humanité" reposant sur la fusion machine-nanotechnos-biotechnos-homme. Beaucoup de délires là dedans certainement, mais certainement du vrai. Les applications apparaissent déjà, c'est du concret, et cela changera certainement notre manière de vivre (cela ne nous rendra pas meilleur, malheureusement)
Réponse de le 20/12/2014 à 11:55 :
Rappelons que l'Eglise n'a admis l’Âme de la Femme qu'a reculons.. et encore ;-)

Merci pour votre commentaire. Il sera visible prochainement sous réserve de validation.

 a le à :