L'enjeu de la révolution des algorithmes est plus éthique qu'économique

LA CHRONIQUE DU "CONTRARIAN" OPTIMISTE. La crainte d'une destruction massive d'emplois en raison de l'accélération de la digitalisation de l'industrie et des services n'est pas fondée. En revanche, il est nécessaire que l'usage des algorithmes soit encadré par des règles éthiques, pour le bien de tous.
Robert Jules

5 mn

(Crédits : Reuters)

Les crises sont propices à l'accélération de changements. Ainsi, à la faveur de la préparation de la sortie de crise sanitaire, nombre d'États ont préparé des plans de relance pour accélérer la reprise économique. Outre des montants qui se chiffrent en centaines de milliards, ils ont pour point commun d'investir prioritairement dans la transition énergétique - les fameux "green deal" - pour lutter contre le réchauffement climatique mais aussi dans l'accélération de la numérisation de l'économie, par le recours massif à l'Intelligence artificielle (IA), ses algorithmes et ses robots.

Le risques des inégalités entre travailleurs

Deux mouvements majeurs qui vont remodeler l'économie mondiale et réorganiser le monde du travail. L'une des craintes est que la robotisation rapide débouche sur un chômage massif. Or ce n'est pas ce qui est constaté. Certes, des métiers pénibles et répétitifs vont être supprimés, mais la robotisation permet aussi d'augmenter la productivité et de réduire les coûts, et crée aussi de nouveaux emplois que l'on ne soupçonnait pas. Le seul risque, important, est d'accroître les inégalités entre les travailleurs sous-qualifiés - les plus exposés - et ceux qui sont bien formés. Le Japon, Singapour et la Corée du Sud, qui comptent parmi les pays qui en pointe dans la robotisation, n'ont pas de taux de chômage élevés.

Pour autant, les investissements publics dans cette numérisation vont davantage compenser le ralentissement mis sur ce secteur durant la pandémie, comme l'indique la baisse de 5,5% des ventes en 2020 de l'entreprise américaine Rockwell Automation, qui compte parmi les premiers fournisseurs mondiaux de robots.

Les robots ne propagent pas le virus

La pandémie aura aussi montré tout l'intérêt d'avoir des robots pour réaliser certaines tâches en offrant une protection sanitaire durant ce type de crise, les robots à la différence des êtres humains ne propageant pas le virus.

C'est d'ailleurs à partir d'un tel exemple que le philosophe franco-canadien Martin Gibert, chercheur au Centre de recherche en éthique (CRÉ) et à l'Institut de valorisation des données (IVADO) à Montréal soulève les problèmes posés par le développement des algorithmes est éthique avant d'être économique.

Dans son ouvrage, "Faire la morale aux robots" (éd. Flammarion) (1), il part de l'hypothèse d'un monde qui aurait possédé une super IA qui, durant la crise sanitaire, aurait eu accès à toutes les données de tous les comportements en simultané. Cette IA aurait évalué le niveau de risque de la situation et pu en anticiper l'évolution. Nos gouvernants auraient ainsi pu prendre des décisions en connaissance de cause, et probablement sauvé des milliers de vies. Mais cette intrusion dans nos vies privées ne pose-t-elle pas une atteinte à notre intégrité?

"Ne pas se défausser sur des machines de notre responsabilité morale"

Dans son ouvrage, Martin Gibert clarifie les termes du débat, en distinguant deux aspects de la question. Aujourd'hui, le débat éthique sur l'intelligence artificielle (IA) reste souvent cantonné au fait de savoir s'il faut accepter ou non des systèmes commandés par l'IA qui sont bons pour nous. Or il faudrait plutôt se demander dans le cadre d'une éthique des algorithmes quelle est la bonne manière de programmer les machines ou les robots, alors même que les avancées en matière d'IA sont en train de remettre en cause bien des présupposés, et posent de nouveaux problèmes. Au terme d'une argumentation rigoureuse, Martin Gibert défend une éthique de la vertu, comme étant la plus à même de répondre à ces défis car "ce n'est pas demain la veille qu'on pourra se défausser sur des machines de notre responsabilité politique et morale."

C'est dans une optique similaire que deux ingénieurs proposent de voir dans la révolution numérique l'occasion de "rendre l'intelligence artificielle robuste", sous-titre de l'ouvrage de Lê Nguyên Hoang et El Mahdi El Mhamdi, intitulé "Le fabuleux chantier" (2). Comme ils le soulignent, la "révolution algorithmique" a cette particularité après l'invention du langage et de l'imprimerie d'accentuer l'externalisation de l'information dont se servent les individus. Or, ce qui est encore aujourd'hui difficile à appréhender, ce sont les effets secondaires de ces possibilités inédites, notamment en matière de science, de santé et de protection de l'environnement. Comme on le voit par exemple avec l'utilisation des réseaux sociaux dans le débat public, ce n'est pas toujours la qualité du savoir qui est mise en avant mais davantage certains travers, comme la circulation d'idées fausses qui répétées ad nauseam conduisent à une vision biaisée du monde, à l'instar de la pensée complotiste.

Rendre le traitement de l'information "robustement bénéfique"

Dans leur livre foisonnant d'exemples et d'initiatives, Lê Nguyên Hoang et El Mahdi El Mhamdi plaident eux aussi pour une prise en compte des enjeux éthiques, c'est-à-dire en posant des fins. Ils suggèrent nombre de pistes qui intègrent ces aspects en prenant en compte les limites et les vulnérabilités des algorithmes, dans le but de rendre le traitement de l'information "robustement bénéfique" pour le plus grand nombre, en s'inspirant notamment de la notion d'"altruisme efficace", conceptualisé par le philosophe australien Peter Singer. Un défi que l'un des auteurs, El Mahdi El Mhamdi, peut depuis la publication de l'ouvrage tester dans la réalité, puisqu'il a été recruté par Google pour plancher sur ce sujet en intégrant le projet de recherche Google Brain en Europe sur le deep learning.

Finalement, loin de focaliser la révolution algorithmique à son seul potentiel économique qui va être énorme, ces trois auteurs montrent qu'elle peut aussi permettre de développer un monde meilleur pour tous.

____

(1) Martin Gibert, "Faire la morale aux robots", éditions Flammarion, collection Climats, 168 pages, 17 euros.

(2) Lê Nguyên Hoang et El Mahdi El Mhamdi "Le fabuleux chantier", éditions EDP Sciences, 296 pages, 39 euros.



Robert Jules

5 mn

Paris Air Forum

Sujets les + lus

|

Sujets les + commentés

Commentaires 5
à écrit le 13/06/2021 à 10:42
Signaler
Un exemple hallucinant c'est cette apparition en bas à droite de la météo de bing visiblement, sur windows 10 et des informations du genre la vie de la princesse machin ou du chanteur bidule, bref de gens sans intérêt, que je n'arrive pas à supprimer...

à écrit le 12/06/2021 à 23:18
Signaler
La nana qui a fait parcoursup est une ancienne professeur de collège . Ce programme est déprimant et n’est pas basé ni sur les notes ni sur les efforts ni sur les dossiers et ceux qui se trompent d’orientation ne sont pas prioritaires tant pis pour ...

à écrit le 12/06/2021 à 18:06
Signaler
un algorithme n'a rien d'ethique, c'est une facon de calculer; concernant les reseaux de neurones, c'est ce qu'on appelle des ' black boxes'; faut relire la formalisation statistique et topologique les conernant c'est bcp plus clair ( au passage on p...

le 13/06/2021 à 19:12
Signaler
L'IA et le big data(deep learning) ne savent faire que 2 choses : Interpolation et extrapolation C'est à dire que la prédiction n'en est pas, dans le cas de l'interpolation, on espère que entre les points ce qui se passe est entièrement déterminé...

à écrit le 12/06/2021 à 11:11
Signaler
Non, car c'est déjà la, et on peut voir sur simplement les données objectifs qui sont communiquées, rien. Le logiciel d'orientation parcours sup. Le fait de n'avoir pas diffuser l'enjeu avant la prise en main de des gafams d'une grosse partie des ...

Votre email ne sera pas affiché publiquement.
Tous les champs sont obligatoires.

-

Merci pour votre commentaire. Il sera visible prochainement sous réserve de validation.