Pas besoin de "coupe-circuit" pour les IA (tant qu'elles n'ont pas de conscience) R. Herbrich, Amazon

Ralf Herbrich est directeur des sciences de l'apprentissage automatique chez Amazon. Il vit à Berlin et se partage la direction du service avec deux collègues aux États-Unis et un en Inde. Avant d'intégrer Amazon, il dirigeait l'équipe Facebook de construction d'infrastructures d'apprentissage automatique prévoyant les actions des utilisateurs. Il a également travaillé pour Microsoft.

EURACTIV - Amazon est peut-être l'entreprise qui croît le plus rapidement au monde. Peut-elle continuer à ce rythme pendant les cinq ou dix années à venir ?

RALF HERBRICH - La réponse rapide est oui. Nous devons rester concentrés sur les trois ingrédients qui nous font exceller en termes de satisfaction des clients. Si nous continuons à nous concentrer sur l'augmentation du nombre de produits numériques et physiques, sur la diminution constante des prix, et sur l'aspect pratique et facilité, en aidant par exemple les clients à trouver plus rapidement ce qu'ils cherchent et à le leur envoyer plus rapidement, je pense que cette croissance peut continuer.

Parfois, il ne suffit pas de rester fidèle à ses principes fondamentaux, il faut trouver de nouveaux moyens de mettre en place ces principes, parce que la concurrence copie votre mode de fonctionnement. Quel sera le principal moteur de votre croissance future ? Quel rôle jouera l'intelligence artificielle ?

Ce modèle ne peut se développer qu'avec l'aide des algorithmes. Aujourd'hui, une grande proportion de nos [ventes de] produits, parfois jusqu'à 90%, est prédite par des algorithmes. Il reste cependant des gens qui ne sont pas prévisibles par algorithmes. De la même manière, les algorithmes comprennent la structure de la langue, mais pas encore à 100%. Nos trois principes ne se déploieront pas seulement grâce au travail humain. Ils ne continuent à croître et à accélérer que si nous complétons l'intelligence humaine par de l'intelligence artificielle.

     >Lire : "L'intelligence artificielle va être un énorme tsunami"

Les machines ont besoin de données pour apprendre. Celles-ci proviennent principalement de deux sources : les personnes et les capteurs. Cela crée des problèmes, notamment en termes de propriété des données et de préservation de la vie privée. Pensez-vous que ces aspects ralentiront le développement de l'apprentissage automatique ? Comment répondre aux inquiétudes des citoyens à ce sujet ?

La question de la gouvernance des données est importante. C'est pourquoi nous ne révélons jamais toutes ces données. Mais les données appartiennent aussi à nos clients. Donc, s'ils veulent qu'elles soient stockées en Allemagne, nous les stockons en Allemagne. Nous ne les déplaçons pas. Les données du public sont accessibles, et nous en profitons. Cela nous mène à une autre question scientifique intéressante : comment créer des algorithmes d'apprentissage qui préservent l'anonymat des personnes. La question de la protection de la vie privée et de l'apprentissage automatique est un domaine de recherche où il se passe beaucoup de choses. Personne n'a encore trouvé comment enseigner cette notion à un algorithme, mais c'est une question importante.

La circulation libre des données est actuellement un grand sujet de débats, notamment en Europe. Vous êtes en faveur du stockage local des données, est-ce parce que vous êtes Allemand ? Vos collègues aux États-Unis et en Inde ont-t-il la même vision que vous à ce sujet ?

Nous avons la même approche. En interne, nous utilisons aussi le service web Amazon. Quand nous stockons des données dans notre centre, elles ne seront plus déplacées. L'équipe japonaise, par exemple, stocke ses données à Tokyo, l'équipe américaine en Virginie, l'équipe allemande à Francfort. C'est aussi important en termes de gouvernance des données.

Aujourd'hui, les machines ne se limitent pas à apprendre toutes seules, elles enseignent aussi à d'autres machines. Étant donné le rythme rapide des progrès en termes d'intelligence artificielle, avec les risques qui y sont associés, pensez-vous qu'il faille installer des coupe-circuits sur les robots, afin de pouvoir les éteindre ?

Le déploiement d'algorithmes qui s'améliorent avec le temps est de plus en plus important. Amazon a formé des partenariats avec Microsoft, Facebook, Apple, IBM et Google pour déployer l'intelligence artificielle dans la société en toute sécurité. Je ne pense pas qu'il faille un coupe-circuit, mais la mise en place de bonnes pratiques. Ce bouton rouge ne sera nécessaire que si les algorithmes développent une forme de conscience, mais les algorithmes dont nous parlons ici se limitent à extraire des répétitions, à reconnaitre des similarités.

Outre ce groupement que vous mentionnez, des réglementations devraient-elles être mises en place pour prévenir les conséquences imprévues du déploiement de l'intelligence artificielle ?

Ce groupe n'est pas là pour créer une autorégulation, mais pour partager des bonnes pratiques. Nous y incluons également les meilleurs chercheurs du monde académique, afin d'orienter les recherches sur l'impact de l'intelligence artificielle sur la société.

Pensez-vous que les robots et l'intelligence artificielle détruiront des emplois ?

Je ne pense pas qu'il y aura des pertes nettes d'emploi. Je pense qu'il y aura un changement de la nature des emplois. Il s'agit d'une inquiétude très typique, puisque la nature des postes à pourvoir change en fonction de la technologie. Des emplois qui n'existent pas seront créés. Laissez-moi vous donner un exemple. Quand nous avons mis au point un système de traduction automatique, nous nous sommes rendu compte que nous avions toujours besoin de personnes qui collectent les données pour décoder la langue, pour ajuster les paramètres du système. Ce n'était pas un travail pour les scientifiques, donc nous avons créé des postes d'ingénieur de localisation. À Berlin, nous avons engagé davantage de ces ingénieurs que nous n'avions de chercheurs pour mettre le système au point. Cet emploi n'a pas lieu d'être si le système de traduction automatique n'existe pas. Pour moi, cela indique que nous créerons de nouveaux emplois.

En tant qu'utilisateur, ne seriez-vous pas inquiet qu'une entreprise comme Amazon concentre autant de pouvoirs dans autant de domaines ?

Je m'inquièterais si l'entreprise en question se focalisait uniquement sur des incitations financières, sur la valeur pour les actionnaires. Je trouve assez rassurant qu'Amazon reconnaisse que les clients sont la priorité et que leur confiance est ce qui a le plus de valeur. C'est cet engagement qui compte.

___

>POUR ALLER PLUS LOIN :

• La CNIL allemande interdit aux Gafas de stocker leurs données hors d'Europe
• Les géants du Net s'arrachent les startups de l'intelligence artificielle
• Royaume-Uni : les robots menacent 860.000 emplois dans le secteur public
• Intelligence artificielle : la France peut-elle devenir un leader mondial ?

+ Consulter INTELLIGENCE ARTIFICIELLE, un dossier Latribune.fr

Par Jorge Valero, Euractiv.com (traduit par Manon Flaush)

(Article publié et mis à jour le lundi 22 mai 2017)

____

>Retrouvez toutes les actualités et débats qui animent l'Union Européenne sur Euractiv.fr