Par Philippe Boyer, directeur relations institutionnelles et innovation à Covivio.
Il y a peu, l'intelligence artificielle (IA) nous aidait à chercher, écrire, traduire, classer. Puis elle s'est mise à répondre et à dialoguer avec nous en utilisant le langage de tous les jours. Désormais, elle va plus loin : elle agit. Elle réserve, compare, négocie, recommande, achète. En cela, nous entrons dans l'âge de l'IA « agentique » : la machine n'est plus seulement un outil que l'on consulte, mais un intermédiaire auquel on délègue une part de décision. Et avec cette délégation plus ou moins permanente surgit une question vertigineuse : peut-on accorder de l'autonomie à ces « agents » sans leur assigner un strict cadre de responsabilité ?
L'actualité récente donne à cette interrogation une dimension très concrète. Les géants du paiement, Visa et Mastercard, ont annoncé qu’ils accéléraient leurs développements sur le paiement par agents IA. Leur objectif est clair : permettre à des assistants intelligents d'effectuer directement des achats au nom de l'utilisateur, dans un environnement sécurisé. Visa a annoncé un partenariat avec OpenAI pour que ChatGPT puisse acheter en ligne pour le compte de ses utilisateurs. Mastercard développe Agent Pay dans la même logique. American Express travaille sur des dispositifs comparables. Demain, un agent ne se contentera plus de suggérer un voyage : il réservera le billet, choisira l'hôtel, réglera le séjour, et peut-être arbitrera entre plusieurs options selon nos préférences supposées.
Le franchissement est majeur. Tant que l'agent recommande, l'enjeu reste limité. Lorsqu'il réserve, paie et contractualise, il devient un opérateur d'action qui, à ce titre, engage la personne. Et si cette action produit une erreur, qui y répondra, qui la corrigera ? Le client qui aura formulé une consigne générale ou aura donné son consentement théorique en cochant une petite case en bas à droite d’un long formulaire en ligne ? L'entreprise qui aura conçu l'agent ? La plateforme qui l'aura intégré ? La banque qui aura autorisé le paiement ? Le commerçant qui aura accepté la transaction ? Derrière la promesse d'une expérience client sans friction se cachent les germes d’une indéniable complexité juridique, voire morale.
C'est ici que la grande philosophe Hannah Arendt (1906-1975) éclaire ces questions avec une acuité particulière. Dans un de ses ouvrages, « Responsabilité et jugement », elle insiste sur ce point essentiel : agir, ce n'est pas seulement produire un effet dans le monde, c'est apparaître devant les autres comme l'auteur de ces actes. L'action d’un Homme s'inscrit dans un espace commun, elle peut être racontée, discutée, contestée mais doit d’abord être assumée. Or, l’avènement de l'IA agentique risque précisément de dissocier l'action de son auteur. L'agent IA exécute, l'utilisateur délègue, l'entreprise configure, le système optimise. Chacun intervient dans son champ de responsabilité, mais au final, se profile le risque que plus personne ne réponde de ses actes.
Arendt avait analysé ce risque dans les systèmes bureaucratiques modernes, où les individus ont parfois tendance à se réfugier derrière des procédures pour esquiver leur responsabilité. Avec les agents IA, ce déplacement prend une forme nouvelle. Ce n'est plus « j'ai appliqué les règles », mais « c’est l'Agent qui l'a fait ». Si les choses devaient se passer ainsi et surtout se généraliser, le glissement serait préoccupant. Une décision automatisée n'abolirait pas la responsabilité humaine ; elle la déplacerait, la rendrait moins visible — mais non moins réelle.
L’actualité qui compte pour vous, chaque jour dans votre boîte mail.
Albert Camus apporte un éclairage complémentaire à cette réflexion sur la responsabilité. Toute son œuvre est traversée par cette notion dans un monde sans garantie morale préétablie. Pour le philosophe, on ne peut pas se défausser sur l'Histoire, sur un système ou sur une idéologie : on répond de ce qu'on fait. Dans « L’Homme révolté », Camus récuse toutes les logiques qui prétendent justifier l’injustifiable au nom d’une fin supérieure. Il y oppose une exigence de limite : agir, oui ; transformer, oui ; mais jamais sans mesure, sans retenue, ni sans considération pour l’humain que l’action engage.
Cette notion de limite est centrale pour l'IA agentique. Un agent sera par nature tenté d'optimiser : aller plus vite, réduire les coûts, maximiser la conversion, éliminer les frictions. Mais toute optimisation sans limite peut devenir brutale. Un agent de paiement pourrait systématiquement privilégier le moins cher au détriment du plus éthique. Un agent commercial pourrait pousser une offre rentable mais inadaptée. Un agent RH filtrer des candidatures selon des critères opaques. Un agent financier arbitrer plus vite qu'un humain, sans percevoir les conséquences personnelles ou sociales de ses choix.
La question n'est donc pas d'interdire ces agents IA qui se développent. Cela serait illusoire d’autant qu’ils s’imposent de plus en plus dans nos vies numériques. Ils arrivent parce qu'ils répondent à une promesse d’efficience : simplifier et automatiser des tâches répétitives, personnaliser des services. Dans une entreprise, un agent pourra préparer des devis, traiter des incidents, organiser des rendez-vous, détecter des anomalies. Dans la vie quotidienne, il pourra gérer un budget, comparer des assurances, commander des produits, réserver un médecin. Le potentiel est considérable.
Mais ce potentiel ne deviendra acceptable que s'il repose sur un mandat explicite. Un agent ne devrait jamais disposer d'une autonomie générale. Il devra recevoir un périmètre précis : ce qu'il peut faire seul, ce qu'il doit soumettre à validation humaine, ce qu'il lui est interdit de faire, ce qu'il doit expliquer après coup, bref, assurer une traçabilité complète permettant de répondre à cette question simple : pourquoi ceci a-t-il été fait ainsi. Sans explication, l'autonomie deviendra opacité.
La vraie modernité ne consiste pas forcément à déléguer toujours plus, mais à mieux distinguer ce qui peut être automatisé, ce qui peut être assisté, et ce qui doit rester humain. Si acheter une recharge d'encre peut, sans beaucoup d’hésitation, relever de l’arbitrage d'un agent IA qui la commandera automatiquement en notre nom, accorder un crédit, refuser une assurance ou arbitrer une situation de détresse ne devra pas être « délégué » à une machine sans des garde-fous stricts et surtout une responsabilité humaine identifiable.
L’IA agentique nous oblige à redécouvrir cette vérité ancienne : la liberté et l’autonomie ne sont pas l’absence de cadre, mais au contraire cette capacité d’agir dans un cadre assumé. Hannah Arendt rappelle que toute action doit avoir un auteur ; Camus, qu’elle doit avoir une limite. Plus les agents IA agiront, achèteront ou décideront à notre place, plus nous serons tentés d’avancer l’argument facile que « C’est pas moi, c’est l’Agent ! » au point de ne plus répondre de nos actes parce qu’une machine se sera glissée dans les interstices de notre volonté. Or déléguer une décision ne consiste jamais à s’en défaire : c’est au contraire accepter d’en porter toute la responsabilité.
_______
