Les collaborateurs sont prêts à déléguer des tâches à des agents IA. Pour autant, se pose la question de la responsabilité... notamment en cas d'erreur de la machine. Le déficit de confiance grimpe à mesure que les enjeux sont jugés cruciaux.
Un agent IA ne fait pas que des propositions. Il passe à l’action. Passer une commande ou déclencher un remboursement est dans ses cordes. Au sein des entreprises, une majorité de collaborateurs se dit prête à lui déléguer des tâches. Et ce, qu’ils soient employés, managers ou cadres dirigeants. Mais qui répond en cas d'erreur ? Selon l'étude TeamViewer d'octobre 2026, à peine un salarié français sur deux estime que la responsabilité est clairement identifiée. Pour le e-commerce, où l'agentique arrive à la fois côté client et côté back-office, la question devient urgente.
« Une erreur ne se limite plus à une réponse fausse ou imprécise. Elle peut devenir une décision, puis une action dans le système d'information », écrit Wafaâ Amal, PDG de Prisme.ai dans une tribune publiée par le Journal du Net.
D’après une étude TeamViewer, publiée en octobre 2026, 75 % des collaborateurs utilisent l’IA générative au moins une fois par jour au travail. Comme le souligne le rapport, un brouillon se relit avant l'envoi. Les collaborateurs ont donc le temps de vérifier et corriger si nécessaire.
Mais en délégant une tâche à un agent IA, il y a un risque d’erreur au niveau de l’exécution. Une IA autonome peut agir, et cela peut avoir des conséquences, avant que quiconque n'ait eu le temps d'intervenir. Les gardes-fous sont essentiels. Notamment dans le e-commerce. Rappelons que côté client, des agents conversationnels sont déjà en mesure d’effectuer une réservation à la place des consommateurs. Le paiement est lui aussi délégable via des protocoles comme l'UCP. Côté marchand, des agents mettent à jour les catalogues, ajustent les prix, traitent les réclamations ou créent des campagnes marketing. Éviter les erreurs est primordial. Aucune organisation n’a le luxe d’accorder un remboursement à tort ou de passer une commande auprès du mauvais fournisseur.
Et le mouvement s'accélère. D'ici 2030, les décideurs informatiques s'attendent à ce que 39 % des services de l'environnement de travail numérique fonctionnent de manière autonome, et au moins 45 % dans les entreprises de plus de 1 000 salariés.
IA agentique : la confiance au coeur des enjeux d'adoption
71 % des collaborateurs se disent à l'aise à l’idée de travailler avec une IA capable d'agir seule. Mais pas sans condition. En effet, ils veulent pouvoir intervenir si nécessaire. La prudence reste de mise : plus de trois sur cinq préfèrent que l'IA ne prenne aucune mesure de manière autonome.
- 43 % veulent qu'elle recommande pendant qu'ils décident ;
- 18 % préfèrent s'en passer ;
- quand les 39 % restants acceptent qu'elle agisse à condition de valider ses actions.
Le déficit de confiance augmente à mesure que l’enjeu est jugé important. En effet, 54 % des interrogés estiment être très ou tout à fait à l’aise pour confier à l’IA des tâches simples et répétitives. Dans le e-commerce, on pense à l’enrichissement des fiches produits par exemple. Le taux tombe à 32 % quand il s’agit du traitement d’informations sensibles ou confidentielles. Il peut s’agir de manipuler des données clients ou des moyens de paiement.
Ils sont probablement d’autant plus sceptiques à faire confiance à la machine que 51 % des répondants estiment que la responsabilité n’est pas clairement établie en cas d’erreur d’un système autonome :
- 26 % désignent l'équipe informatique ;
- 25 % pointent l’utilisateur ;
- 21 % jugent que personne ne devrait être tenu pour responsable ;
- 21 % redoutent d'avoir à répondre d'une erreur qu'ils ne contrôlaient pas.
Mais c’est oublier que l'IA n'a pas de statut juridique et qu’elle ne peut pas être tenue pour responsable. Sur qui retombe la responsabilité en cas d’incident ? Face au doute, les salariés vérifient. 56 % contrôlent souvent ou systématiquement les résultats de l'IA. C’est bien, mais cela leur prend en moyenne deux heures par semaine. 39 % estiment même que finalement, l’IA alourdit leur charge de travail au bout du compte. Et un salarié sur deux (51 %) avoue ne pas toujours savoir quand faire confiance à l'IA et quand la vérifier.
IA autonome ou les 7 points clés d'une architecture de confiance
Pour sortir de l'impasse, Wafaâ Amal met en exergue qu’ « un logiciel dispose de permissions. Un agent doit recevoir un mandat. Celui-ci doit reposer sur une identité propre, une mission déterminée, des ressources accessibles, une durée, des actions autorisées et une capacité de révocation. Son pouvoir effectif doit se limiter à l’intersection entre ses propres droits, ceux de l’utilisateur et ce que nécessite la mission. Jamais à leur addition. »
Selon elle, cela suppose de savoir précisément qui agit : l'Agent Owner, responsable de l'agent en production et de son cycle de vie ; l'agent doté de droits propres ; et l'utilisateur pour lequel il intervient.
[Voir aussi : Webinaire Smile x Ibexa Marketing agentique : passez de l’exécution à l’orchestration]
« Le passage de l'assistance par l'IA à l'action autonome n'est pas un acte de foi. C'est une question d'architecture », résume Mei Dent, directrice des produits et des technologies de TeamViewer. Une architecture de confiance en sept points clés :
- des limites claires sur ce que l'agent peut consulter, décider et modifier ;
- des actions pré-approuvées, routinières et à faible risque ;
- une supervision proportionnée au risque : agir seul, prévenir, ou s'arrêter pour obtenir une validation ;
- une activité transparente, avec journaux, explications et notifications ;
- des procédures d'escalade et d'annulation pour contester, suspendre ou corriger une action ;
- une responsabilité clairement attribuée pour le comportement du système et les mesures correctives ;
- des boucles de rétroaction pour affiner les garde-fous dans le temps.
Les salariés ne demandent pas autre chose : 73 % font davantage confiance à un système qui montre ce qu'il fait et pourquoi, 36 % veulent être prévenus avant un changement majeur, 33 % souhaitent un historique visible des actions de l'IA. Et pour 40 % des répondants, l'humain doit intervenir dès que la sécurité, les données ou les opérations métier sont en jeu.
Pour un site marchand, cette gradation peut se traduire très concrètement. L'agent enrichit seul les fiches produits et relance un réassort sous un seuil défini. Il prévient avant d'ajuster un prix dans une fourchette autorisée. Il s'arrête pour validation avant une promotion sur tout le catalogue ou un remboursement au-delà d'un montant fixé. Et tout ce qui touche aux données personnelles ou au paiement remonte à un responsable identifié.
Reste une question plus profonde, posée par Olivier Sibony dans le podcast Trench Tech : que délègue-t-on vraiment ? Dans de plus en plus de domaines où la qualité d'une décision se mesure, des IA spécialisées font mieux que les experts humains. Et pourtant, quand la machine les contredit, ces derniers concluent souvent qu'elle se trompe, se privant ainsi d'un gain réel.
L'inverse est tout aussi dangereux. Faire confiance à un algorithme sans avoir précisé l'objectif qu'on lui assigne, c'est lui déléguer le choix de nos finalités. Un agent de pricing à qui l'on demande de maximiser la marge le fera, quitte à sacrifier la fidélité des clients si personne ne l'a inscrite dans sa mission. Pour Olivier Sibony, la règle est claire : garder la décision, c'est garder la responsabilité, et il faut la garder dans tous les cas.
« Les entreprises ne réussiront pas en accordant à l'IA un pouvoir illimité. Elles réussiront en mettant en place des systèmes capables d'agir de manière sûre, transparente et responsable », affirme Oliver Steil, directeur général de TeamViewer.
"Permettre à l’IA d’agir sans renoncer à la maîtrise humaine, à la transparence et à la responsabilité"
Pour Julien Fortumeau, directeur e-Commerce chez Smile, la question n’est plus de savoir si nous pouvons déléguer des tâches à l’IA, mais « jusqu’où nous pouvons le faire dès lors qu’elle apporte des résultats plus pertinents à l’utilisateur ». Et de poursuivre : « Dans le e-commerce, toutes les activités — de la notoriété à la découverte des produits, de la conversion à l’usage et à la fidélisation — peuvent bénéficier d’une délégation progressive, avec un niveau de responsabilité adapté aux enjeux. Le paiement et les opérations sensibles appellent encore davantage de garanties en matière de sécurité, de contrôle et de conformité.
L’Europe a fait le choix d’une IA anthropocentrique et digne de confiance. Cette ambition demande des efforts, mais elle dessine une direction claire : permettre à l’IA d’agir sans renoncer à la maîtrise humaine, à la transparence et à la responsabilité. »
Julien Fortumeau ajoute : « Chez Smile, nous voulons prendre pleinement part à cette évolution en développant des plateformes agentiques capables de construire et d’opérer des plateformes e-commerce, tout en préservant ce qui fait la valeur de nos clients : leurs données, leur savoir-faire et leur avantage compétitif. Cela suppose une transparence totale sur les modèles utilisés, le choix du bon LLM pour chaque usage et, lorsque les enjeux l’exigent, le recours à des solutions sécurisées et souveraines. Notre conviction est simple : la performance de l’IA ne doit jamais se construire au détriment de la confiance. »
