« L’intelligence artificielle intégrale pourrait signifier la fin de la race humaine »

Le brillant physicien Stephen Hawking s’inquiète des conséquences du développement de cette technologie qui pourrait dépasser l’intelligence humaine. Elon Musk, le fondateur de Tesla et SpaceX, estime aussi qu'elle constitue « une menace existentielle. »
Delphine Cuny

2 mn

Le brillant physicien britannique, qui souffre d'une dystrophie neuromusculaire attribuée à une sclérose latérale amyotrophique (SLA), se sert pour communiquer d’un logiciel utilisant une forme basique d’intelligence artificielle.
Le brillant physicien britannique, qui souffre d'une dystrophie neuromusculaire attribuée à une sclérose latérale amyotrophique (SLA), se sert pour communiquer d’un logiciel utilisant une forme basique d’intelligence artificielle. (Crédits : Reuters)

Personne ne l'accusera d'obscurantisme et pourtant l'éminent physicien britannique Stephen Hawking ne cache pas son inquiétude à l'égard de l'intelligence artificielle. Interviewé par la BBC, le scientifique, qui souffre d'une dystrophie neuromusculaire attribuée à une sclérose latérale amyotrophique (la SLA qui a fait parler d'elle cet été avec les « Ice Bucket Challenges »), et se sert pour communiquer d'un logiciel utilisant une forme basique d'intelligence artificielle, a en effet déclaré :

« Le développement d'une intelligence artificielle intégrale pourrait signifier la fin de la race humaine. »

S'il reconnaît que les formes primitives d'intelligence artificielle développées jusqu'ici se sont révélées très utiles, ce spécialiste des trous noirs, âgé de 72 ans, redoute les conséquences de l'évolution de cette technologie si cette dernière venait à dépasser l'intelligence humaine, car elle saurait se recréer par elle-même et se re-développer à grande vitesse.

« Les humains, qui sont limités par leur évolution biologique lente, ne pourraient pas rivaliser et seraient remplacés. »

Un autre esprit brillant qu'on ne peut soupçonner de technophobie, l'Américain Elon Musk, le fondateur de Tesla Motors et de SpaceX, a récemment exprimé lui aussi ses craintes :

« Je pense que nous devrions être très prudents au sujet de l'intelligence artificielle. C'est sans doute notre plus grande menace existentielle. Je suis de plus en plus convaincu qu'il devrait y avoir une forme de surveillance réglementaire, au niveau national et international, afin de s'assurer qu'on ne fasse rien de très stupide » a-t-il déclaré devant des étudiants du MIT en octobre dernier. « Avec l'intelligence artificielle, on invoque le démon. »

Delphine Cuny

2 mn

Sujets les + lus

|

Sujets les + commentés

Commentaires 58
à écrit le 07/05/2015 à 19:33
Signaler
Cela démontre surtout qu'un spécialiste des trous noir n'est ni un spécialiste du cerveau humain ni un spécialiste en informatique. L'être humain est le produit de million d'années d'évolution au cours desquelles il a dû survivre. Son comportement e...

à écrit le 20/12/2014 à 11:52
Signaler
Je ne pourrais que conseiller que la lecture du cycle de la Culture de Ian Banks pour voir ceci d'un tout autre oeil que celui d'un brillant cerveau emprisonné dans son corps, et déjà dépendant de morceaux d’intelligence artificielle pour exister...

à écrit le 15/12/2014 à 14:27
Signaler
Einstein le disait avant lui

à écrit le 07/12/2014 à 9:07
Signaler
Pour le moment il n'y a rien d'intelligent dans l'intelligence artificielle... Et ce n'est pas pour demain. Ce terme qui fait frissonner les idiots désigne simplement un corpus d'algorithmes statistiques. SH parle d'un événement dont la probabilité d...

à écrit le 05/12/2014 à 23:35
Signaler
Le problème est que nous ne connaissons rien de nous, ni de notre intelligence ni et encore moins de ce qu'est notre conscience. Alors il est possible que nous ne connaissions rien non plus des futurs robots et programmes d'IA associés par le net à u...

à écrit le 04/12/2014 à 13:01
Signaler
va falloir mettre en place sa alors ^^ Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu'un être humain soit exposé au danger. Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres ...

le 11/12/2014 à 9:40
Signaler
La première loi m'a toujours paru étrange, en imposant au robot de prendre des initiatives qu'un ordre humain ne peut arrêter selon la 2e loi.

le 20/12/2014 à 11:49
Signaler
Vous avez oublié la loi Zéro, certes apparue par la suite, s'agissant de l'action sur la civilisation, permettant malgré tout de nuire a un être humain...

à écrit le 04/12/2014 à 12:56
Signaler
skynet becomes self-aware

à écrit le 04/12/2014 à 12:01
Signaler
Il n'y a rien d'intelligent dans l'IA, de l'artificiel sûrement, et beaucoup de silicium. Du sable en fait. L'homme est déjà suffisamment "intelligent" pour faire des conneries qu'il n'est pas utile de créer une "intelligence supérieure" qui devrait...

le 04/12/2014 à 15:08
Signaler
Tout simplement ...

le 20/12/2014 à 11:50
Signaler
Dit autrement, le match est ouvert pour savoir qui de l'intelligence artificielle ou de la connerie naturelle réussira a nous envoyer au tas le plus vite :-)

à écrit le 04/12/2014 à 11:14
Signaler
ON NE PEUT ALLEZ CONTRE LE PROGRES ? MAIS L HOMME DOIT VEILLEZ A LE METRISSER???

à écrit le 04/12/2014 à 9:09
Signaler
L'intelligence artificielle sera dans tous les cas incapable de rivaliser avec la connerie humaine. Et c'est ça qui nous sauvera.

le 04/12/2014 à 11:02
Signaler
et vous avez parfaitement raison

le 04/12/2014 à 11:06
Signaler
Bien vu!

à écrit le 04/12/2014 à 7:53
Signaler
Et la programmation d'assaut ou Resto du cœur ,politique ou abbé pierre ...le problème et là ....

à écrit le 04/12/2014 à 5:23
Signaler
Au train où vont les choses on perçoit bien que "....une transformation radicale de la société est en cours. Il est à craindre que l'intelligence artificielle puisse être couplée avec l'intelligence humaine à l'intérieur du cerveau..." suivant récit...

à écrit le 04/12/2014 à 3:21
Signaler
Complètement faux, l'intelligence artificielle est là pour servir d'esclave aux humains, et donc serait utile, et remplaçerait les vrais esclaves humains. Décidement, Hawking raconte n'importe quoi...

le 04/12/2014 à 6:05
Signaler
C'est sur, vous détenez la vérité !

le 04/12/2014 à 8:22
Signaler
L'intelligence artificielle en est à ses débuts. Elle sert déjà à dire aux humains ce qu'ils doivent faire ainsi que quand et comment ils doivent le faire. On le voit bien dans les entreprises. C'est assez insidieux car au départ, c'est une aide appo...

le 04/12/2014 à 9:37
Signaler
Peu importe, l'IA obéit aux ordres des humains et ne prend aucune décision seule. Si l'homme lui demande de faire du mal, ça sera à cause de l'homme, pas à cause de l'IA. Le vrai coupable c'est l'homme, pas l'IA.

le 04/12/2014 à 10:20
Signaler
EXAT? ON LE VOIE DEJA AVEC LES DROMES? ENTRE DE MAUVAISSES MAINS ? SURTOUS MILITAIRES???

le 04/12/2014 à 10:56
Signaler
Les drones (en Drôme ?) militaires sont télécommandés, pas autonomes, sinon, grand danger !

le 04/12/2014 à 11:06
Signaler
Au moins, l'IA saura écrire correctement !

le 04/12/2014 à 11:40
Signaler
mdr c'est tellement vrai

le 04/12/2014 à 11:42
Signaler
De droles de drones en Drome ?? mais que fait Rome pour les Rom Jeux de mot Ramuncho !!!!

le 11/12/2014 à 9:49
Signaler
Et si l'IA est mise au service de dictatures ? Dictatures qu'elle manipule dans un second temps...

à écrit le 04/12/2014 à 0:29
Signaler
D'une IA programmée pour aider l'espèce humaine à une évolution de celle-ci capable de se retourner contre cette même espèce, il se passerait pas mal de temps et de travaille de programmation. L'homme aura suffisamment de temps pour arrêter les risqu...

à écrit le 03/12/2014 à 23:26
Signaler
Il n'est pas difficile de comprendre la souffrance que ce chercheur ressent. D'autres mathématiciens célèbres ont autant souffert. Sauf que l'"intelligence" est un concept aussi inatteignable que la complète définition de la "liberté", du respect ou ...

le 04/12/2014 à 0:45
Signaler
L'intelligence ne peut se suffire à elle-même. Il faut nécessairement une référence pour l'évaluer et il est assez prétentieux de notre part de nous situer au sommet de l'échelle de référence tandis que nous ne disposons d'aucune certitude concernant...

à écrit le 03/12/2014 à 23:00
Signaler
Terminator arrive.... En même temps quand on sait que des hommes pensent encore que la couleur de peau détermine l'intelligence Et que l'un d'eux a même osé dire "l'homme africain n'est pas assez rentrer dans l'histoire" du haut de ça petite cinquan...

le 03/12/2014 à 23:28
Signaler
Très juste. J'en ai discuté encore hier avec Superman qui m'a dit qu'il était fâché avec la belle au bois dormant à cause de ça. J'espère que ça va s'arranger...

le 04/12/2014 à 0:10
Signaler
Toujours le bon gaucho de service prêt à ressortir ses diatribes sur Sarko, a n'importe quel moment et pour n'importe quelle ocaz

le 04/12/2014 à 0:53
Signaler
Remplacez "couleur de peau" par "héritage génétique" et essayez de composer un propos "intelligent" plutôt que répéter bêtement le verset politiquement correct antiraciste. Expliquez-nous aussi pourquoi les "noirs" performent dans le sport?

le 04/12/2014 à 11:17
Signaler
CRC32 +1 Pour le sport -1. Les blancs sont largement plus performants dans le sport : ex football, tennis, rugby, handball, natation, arts martiaux, la plupart des disciplines en athlétisme, sports extrêmes et tous les sports de précisions.

à écrit le 03/12/2014 à 22:05
Signaler
il a parfaitement raison, aussi par ce que l homme n est pas pres de s assagir

à écrit le 03/12/2014 à 22:01
Signaler
Attendons avec impatience de nous prosterner devant nos nouveaux maître.

à écrit le 03/12/2014 à 21:38
Signaler
Entre l'intelligence artificielle cybernétique et la bêtise inhumaine du mur des cons, que vaut-il mieux ? Voilà un thème pour un roman philosophique...

à écrit le 03/12/2014 à 21:08
Signaler
Tous le monde rigole. Comme devaient rigoler ceux qui lisaient dans la science fiction qu'on pourrait un jour construire des navires sous-marins, des avions, aller sur la Lune, modifier le code génétique, avoir des voitures qui conduisent automatique...

à écrit le 03/12/2014 à 18:33
Signaler
Il existe encore des individus crédules pour écouter les sornettes de ce mystificateur? Le handicap seul ne peut excuser toutes les bêtises qu'il débite du haut de son fauteuil.

à écrit le 03/12/2014 à 18:08
Signaler
Bonne nouvelle !!!!!!!!!!! L’intelligence artificielle intégrale pourrait signifier la fin de la race humaine ENARQUE !!!!!

le 03/12/2014 à 21:25
Signaler
C'est sûr ! Ce sont les politiques qui ont le plus à craindre: remplacer l'incompétence, la vantardise, le clientélisme et pour certains la corruption par la logique pure et dure...si les robots ont été programmés par...mais par qui au fait?

le 04/12/2014 à 2:37
Signaler
mais il y en a qui le veulent.. un gouvernement et une économies dirigés par une ou des intelligences artificielles. mais après serions-nous prêts à accepter ses décisions/déductions ? une partie du peuple non, une autre partie oui. Qu'est ce qui jus...

à écrit le 03/12/2014 à 18:08
Signaler
Bah, pour l'instant, moi j'attends de voir une IA digne de ce nom. Pour l'instant, je n'en ai pas vue.

à écrit le 03/12/2014 à 17:48
Signaler
Pour commencer, le genre humain ne constitue pas une race mais une espèce, au même titre que les loups ou les tigres, c'est à dire une population ou un ensemble de populations dont les individus peuvent effectivement ou potentiellement se reproduire...

à écrit le 03/12/2014 à 17:47
Signaler
C'est pas ce British-là celui qui a découvert les trous noirs pour quelques années après dire qu'il n'y jamais existé de trous noirs ? voilà quelqu'un d'autant crédible que nos médias….

le 03/12/2014 à 21:01
Signaler
Vous connaissez beaucoup d'êtres humains, et notamment scientifiques, qui remettent en cause leur propre découverte, alors que cette dernière leur a apporter la gloire et la reconnaissance ?

à écrit le 03/12/2014 à 17:42
Signaler
Kanu, votre réponse est d'une naïveté... Les questions que vous posez peuvent être poser dans le sens inverse, pourquoi ne pas nous détruire? pourquoi nous aider? etc.... Une chose qui est imprimé dans notre cerveau reptilien et la survie, à pa...

à écrit le 03/12/2014 à 17:20
Signaler
J'arrive pas à comprendre pourquoi tout le monde part du principe qu'à partir du moment où une intelligence artificielle intégrale sera crée, les robots "vont tous vouloir nous tuer"... Sérieusement, quel postulat permet d'affirmer que l'IA va se ret...

le 03/12/2014 à 17:30
Signaler
Ton postulat est sans doutes fondé, seulement si on prend le point de vue stricte de l'évolution, l'homme et l'intelligence artificielle ne pourraient coéxister. L'homme à prospérer et remplacer pas mal d'espèce dans le monde entier, et il y est a...

le 03/12/2014 à 18:03
Signaler
Salut Kanu, Tout simpllement parce que non seulement l'IA va se rendre compte que l'humain lui sert a rien mais surtout qu'il peut la "débrancher" ce qui au final constitue un danger pour elle...

le 03/12/2014 à 20:51
Signaler
Cf. les films Matrix 1,2,3.

le 04/12/2014 à 0:31
Signaler
@Bogdan Une IA aura toujours besoin de son créateur pour corriger ses bugs puisqu'elle sera bien incapable de les déceler par elle-même. Il est même probable que de l'unicité de ses défauts se construise son identité et pourrait naître alors une d...

à écrit le 03/12/2014 à 16:53
Signaler
année 2068: les scientifiques ont enfin compris pourquoi depuis 30 ans toutes les intelligences artificielles cessaient de fonctionner après une demi-seconde, elles se suicidaient parce qu'elles avaient compris leur condition.

le 04/12/2014 à 11:37
Signaler
Une intelligence artificielle n'implique pas qu'elle soit consciente.

le 04/12/2014 à 14:35
Signaler
C'est toute la question : une IA peut-elle un jour avoir une forme de conscience de soi et, par suite, une volonté, le cas échéant tournée contre l'homme. J'en doute, mais bon je suis pas spécialiste. Je prends plus au sérieux les théories sur la...

le 20/12/2014 à 11:55
Signaler
Rappelons que l'Eglise n'a admis l’Âme de la Femme qu'a reculons.. et encore ;-)

Votre email ne sera pas affiché publiquement.
Tous les champs sont obligatoires.

-

Merci pour votre commentaire. Il sera visible prochainement sous réserve de validation.