L’émotion, le talon d’Achille de l’intelligence artificielle

 |   |  1094  mots
(Crédits : Pixabay)
« Au vu des performances de l’intelligence artificielle faible, l’intelligence artificielle forte ne saurait tarder ». L’assertion est courante y compris dans les milieux avertis. Est-elle fondée ? Par Jacques Baudron, Chargé de cours technologies virtuelles licence MRT, Université Paris Sud – Université Paris-Saclay

Les progrès technologiques métamorphoseront-ils l'intelligence artificielle (IA) faible en forte ? Profitons de l'occasion pour revenir sur les principes de l'intelligence artificielle et imaginer le futur.

La définition de l'IA qui a ma préférence est celle d'un algorithme permettant à une machine de prendre une décision. L'IA faible, disponible aujourd'hui est celle d'un automate qui ne sait prendre de décision qu'en piochant dans ce qu'il lui a auparavant été inculqué ; l'intelligence artificielle forte que l'on espère pour demain est celle d'un humain qui décide avec sa conscience et son émotion.

L'intelligence artificielle faible

L'intelligence artificielle faible a officialisé son renouveau en 2012 avec les spectaculaires performances du « deep learning ».

Les résultats de l'IA faible sont incroyables : mettre un nom en temps réel sur des visages capturés par de la vidéosurveillance, modifier une vidéo au gré des mimiques exercées par un opérateur, endurance aux commandes d'un véhicule sans manifester le moindre signe de fatigue.

La machine décrit les images qu'on lui présente : « Une jeune femme joue au Frisbee dans un parc ». Quoique l'intelligence artificielle faible puisse sembler manipuler les concepts, il n'en est rien. La lecture assidue de millions d'images permet d'identifier un véhicule quel que soit le modèle ou la position.

Mais attention : pour un humain, la notion de véhicule recouvre aussi bien une berline, une familiale ou un cabriolet alors que la machine fait un simple lien entre une suite de pixels et une chaîne de caractères. Ayant enregistré tous les modèles dans toutes les positions, elle ne sait que piocher dans la bibliothèque et sera démunie face à une configuration inédite. La machine cherche quelle suite de pixels correspond le mieux au modèle présenté puis la rapproche de la suite de caractères ASCII associée : « Femme », « Frisbee », « Parc ».

La belle mécanique peut être leurrée par un simple bruit imperceptible à l'humain mais contenant une chaîne fortement associée à un objet autre. Une phrase entendue par l'humain n'aura pas la même interprétation par la machine pour peu qu'un signal sonore très précis dissimulé dans du bruit annonce un message différent.

On s'éloigne des rêves suscités par des termes comme neurones artificiels mais les performances de l'outil restent incroyables.

L'intelligence artificielle forte

L'IA forte est celle de l'humain. Elle est dotée de conscience, capable d'émotion. Elle suscite l'espoir d'horizons nouveaux et la peur d'un ascendant sur l'homme.

Cela dit, il y a encore du travail. La compréhension de l'intelligence humaine est un préalable à la mise en œuvre de l'IA forte. D'où viennent l'émotion, la conscience de soi et de l'environnement ? Ces caractéristiques sont là chez l'animal, mais on n'a pas plus de prise sur l'homme et ses cent milliards de neurones que sur le Caenorhabditis elegans, un petit ver d'un millimètre dont le système nerveux est composé de seulement trois cent deux cellules neuronales.

Depuis des siècles science et religion sont en quête de la conscience mais la connaissance du sujet ne s'est pas réellement étoffée : ce n'est pas demain que « Je pense donc je suis » succèdera à « Hello world ! », la traditionnelle phrase utilisée pour tester un langage de programmation. Même si on sait maintenant localiser les flux d'information entre les différentes zones du cerveau.

À l'inverse de l'IA faible, l'IA forte fait rêver mais nulle voie ne se présente. On aimerait que les spectaculaires performances de l'IA faible la transforment en IA forte.

IA forte fille de l'IA faible ?

Mémoire et processeurs sont à la base de l'IA faible. En schématisant l'humain, on peut remplacer « mémoire » par « souvenir » et « processeur » par « prise de décision ». Et la différence est de taille.

Côté souvenirs, le jeu se fait entre mémorisation, oubli et reconstruction. Blake A. Richards et Paul W. Frankland explicitent ces mécanismes dans la revue scientifique Neuron.

La mémoire arrange ses souvenirs. On oublie faute d'être submergé par les détails. Bien plus : les souvenirs se reconstruisent et se refaçonnent à chaque « accès mémoire » en associant le réel et l'imaginaire suivant nos émotions. Un peu comme une pâte à modeler, nos souvenirs se remodèlent au fil de la sollicitation de notre mémoire.

Une mémoire submergée par un excès de détails ne sait plus analyser : c'est l'hypermnésie. Elle ne sait plus reconnaître un visage dès lors que des écarts à peine discernables troublent la perception. Elle ne sait plus trier les informations pour se forger un jugement.

L'humain a besoin d'une mémoire imparfaite qui fasse des erreurs à l'opposé de ce que peut offrir une mémoire électronique.

Émotion et décision

Aujourd'hui, on considère que l'émotion joue un rôle considérable dans la prise de décision comme l'indiquent les travaux de Thomas Boraud au CNRS ou les travaux du prix Nobel Daniel Kahneman (son ouvrage Système 1, système 2). Probablement parce qu'elle permet une rapidité d'exécution. La survie face à un prédateur repose sur des sensations construites par l'expérience.

Descartes considérait qu'une bonne décision se prenait sans émotion, ce qui est contredit par les travaux actuels. Le hardware peut-il intégrer l'émotion ?

Roger Penrose s'est également penché (Les ombres de l'esprit : L'esprit, l'ordinateur et les lois de la physique) sur la capacité d'un ordinateur d'intégrer la conscience dans ses raisonnements. Pour lui, pas de doute : l'émotion n'est pas soluble dans les algorithmes, même si par ailleurs ses travaux sur le lien avec la mécanique quantique ont fait l'objet de discussion.

L'humain intègre les émotions dans ses prises de décision, chose inaccessible aux processeurs électroniques.

L'IA faible n'enfantera pas l'IA forte

L'architecture électronique des machines de l'IA faible est faite de mémoire et processeur notamment. La mémoire de l'IA forte est faite de souvenirs et son processeur d'émotions.

Sans l'émotion, l'IA faible ne saura déboucher sur l'IA forte. Un système électronique construit selon Alan Turing ne peut pas offrir l'émotion. Même avec une puissance dopée par des calculateurs quantiques, la logique électronique restera fondamentalement opposée à la logique émotionnelle.

The Conversation ______

Par Jacques BaudronChargé de cours technologies virtuelles licence MRT, Université Paris Sud - Université Paris-Saclay

 La version originale de cet article a été publiée sur The Conversation

Réagir

Votre email ne sera pas affiché publiquement
Tous les champs sont obligatoires

Commentaires
a écrit le 22/04/2018 à 19:59 :
Je ne suis pas d'accord avec l'auteur, on veut absolument croire qu'il y a une différence infranchissable entre l'homme et la machine mais l'air de rien l'intelligence artificielle est capable de choses que nous n'aurions jamais imaginé il y a 15 ans.
Tout ça nous ramène à l'époque où on imaginait de la même façon que l'homme et l'animal étaient fondamentalement différents alors que l'homme n'est juste qu'un animal avec une puissance de calcul supérieure aux autres espèces. Or la puissance de calcul des machines augmentent vite en ce moment.
Réponse de le 22/04/2018 à 23:10 :
@ johnmkagan
Pour votre affirmation, la réponse c’est «  oui » et «  non »
L’IA restera toujours une «  création humaine » une «  copie » de l’intelligence humaine , par contre la conscience est plus vaste et complexe à mettre en place d’où
Le rôle de l’IA : un «  outil » d’aide à l’humanité
Espérons qu’il y aura pas d’abus ( comme d’habitude...)
La différence entre l’animal et l’homme :
C’est la «  conscience « 
a écrit le 22/04/2018 à 1:28 :
Le cerveau humain est modulable, une plasticité qui peut se régénérer et retracer de nouveaux schémas, se restaurer, s’initialiser...
Il paraîtrait qu’on utilise que 10% de notre cerveau... 90% sont encore des «  inconnus »
Ces recherches c’est un début pour l’humanité
Peut on rendre l’IA «  vivant » et non «  artificielle «  ?
L’ia reste «  un outil » d’aide pour l’homme
a écrit le 21/04/2018 à 21:56 :
Le but de tout système totalitaire, capitaliste( qui signifie tête= centraliser pognon et décision), est de tuer les faibles( ceux qu'on appelle les "pas assez rentables" ou les opposants politiques styles grévistes bref ceux qui aiment penser par eux-mêmes et ont une morale); dans un système libéral celui qui doit être tué( pour faire de la place à un meilleur ou la progéniture de meilleurs) est simplement viré( et peut aller toucher son chômage) mais quand le pays est fermé( ou ne peut plus payer le chômage par la dette) ou si toute la planète est unifiée, il va où ? le but suprême de l'IA est de créer un dieu auquel toute l'humanité pourra obéir sans regret ni état d'âme, l'IA décidera qui tuer sur la planète pour le bien de l'espèce, qui copulera avec qui, et tous obéiront. Si vous ne voulez pas cela, alors pourquoi donc faire des recherches sur l'IA ? faites des recherches sur l'intelligence.. la vraie.
a écrit le 21/04/2018 à 21:13 :
l'ai c'est du calcul, juste du calcul, le reste c'est pour les mythos; un signal electrique n'a pas d'emotion ou tout autre caracteristique qu'on veut lui donner! ( au passage, le cerveau humain n'a rien gradient conjuge, ni bhhh, ni rien d'autre comme ca, c'est donc de bonne guerre)
a écrit le 21/04/2018 à 19:21 :
"Même avec une puissance dopée par des calculateurs quantiques, la logique électronique restera fondamentalement opposée à la logique émotionnelle."

Votre démonstration est efficace, vous prouvez que tenter de copier la pensée humaine, du moins son fonctionnement, est désespéré, quelque part c'est rassurant mais justement la quête d'une intelligence artificielle ne va t'elle pas au delà de la copie de nous mêmes pour tenter de créer une entité pensante en soi, particulièrement puissante car quantique (oui on en est encore très loin c'est évident... ) la première que nous soyons capables de créer ?

Elle sera forcément imparfaite peut-être même dangereuse mais quelle recherche extraordinaire quand même, quel saut dans l'inconnu.
a écrit le 21/04/2018 à 18:30 :
On peut supposer que la conscience est basée sur un ensemble de paramètres et d’expériences vécues tout au long de la vie et dans des contextes précis. Ce qui quelque part la rend en partie modélisable ou répliquable. On peut probablement arriver à des résultats différents en fonction des individus et de leurs capacités intellectuelles, de leur sensibilité ou de leur sens moral. La morale est elle basée sur des seuls paramètres définis par la société, ou est elle du ressort de l’individu humain ? Si la société avait la réponse ou si chacun disposait d’un sens moral, probablement que l’on aurait pu éviter des guerres et des génocides, malheureusement ce n’est pas le cas.
Plus inquiétant, des paramètres identiques pour une catégorie de personnes produisent des divergences dans les actions, ce qui veut dire que l’opinion ou le libre arbitre rentrent en ligne de compte, ce qui renvoie en effet à l’incidence des émotions et impulsions. Encore plus inquiétant est le fait que malgré l’apprentissage fourni par l’expérience passée, certains tendent à vouloir reproduire les mêmes erreurs. Ce qui constitue un manquement grave, car volontaire. On peut supposer qu’une IA bien conçue pourrait nous dispenser d’erreurs de ce genre, encore faut il ne pas laisser les algorithmes aux mains des fous furieux de service.

Merci pour votre commentaire. Il sera visible prochainement sous réserve de validation.

 a le à :