Gouvernance agentique : est-il temps de repenser la théorie mandant-mandataire ?

L’émergence de la gouvernance agentique

La gouvernance agentique ajoute une nouvelle dimension à la gouvernance artificielle. La gouvernance artificielle fait largement référence à l’application de l’intelligence artificielle aux processus de gouvernance. Les systèmes artificiels peuvent collecter des informations, identifier des modèles, générer des recommandations, évaluer des alternatives ou même exécuter des décisions prédéfinies.

La gouvernance agentique représente une configuration qualitativement différente. Elle émerge lorsque des agents artificiels se voient déléguer la capacité non seulement de traiter l’information, mais aussi de poursuivre des objectifs, d’interagir avec d’autres agents, de négocier des compromis, de prendre des décisions et d’initier des actions sans intervention humaine continue. Le système artificiel passe ainsi du statut d’instrument de gouvernance prédominant à celui d’acteur au sein de la relation de gouvernance elle-même.

Cela modifie la question centrale. La gouvernance artificielle demande quelles décisions de gouvernance peuvent et doivent être automatisées. La gouvernance agentique demande quelles interactions de gouvernance peuvent et doivent être déléguées à des agents autonomes.

Les limites de la gouvernance agentique

La portée future de la gouvernance agentique dépendra en fin de compte de plusieurs limites interdépendantes : la faisabilité technologique, l’opportunité économique, la responsabilité juridique et la responsabilité éthique.

Faisabilité technologique

D’un point de vue technologique, les limites de la gouvernance agentique sont susceptibles de devenir progressivement moins significatives. Dans des environnements organisationnels de plus en plus connectés, les agents artificiels peuvent théoriquement avoir accès aux informations, aux ressources, aux systèmes transactionnels, aux droits de décision et aux canaux de communication.

À mesure que l’intelligence artificielle devient plus performante et que les systèmes organisationnels deviennent plus interconnectés, la question technologique pourrait donc passer de la possibilité d’une gouvernance agentique à l’endroit où les organisations et les sociétés choisissent de lui imposer des limites.

Opportunité économique

La logique économique est tout aussi convaincante. Les agents artificiels peuvent traiter les informations en continu, se coordonner à la vitesse des machines, réduire les coûts de transaction et appliquer les règles de décision de manière plus cohérente que les acteurs humains. Les organisations auront par conséquent de fortes incitations à déléguer les interactions de gouvernance partout où l’automatisation améliore l’efficacité, la réactivité ou la rentabilité.

Pourtant, la gouvernance ne peut être réduite à l’efficacité. La gouvernance concerne également l’allocation du pouvoir, la réconciliation d’intérêts divergents, l’exercice du jugement, l’établissement de la légitimité et l’attribution de la responsabilité. Une interaction de gouvernance peut donc être hautement efficace sans être nécessairement souhaitable.

Le principe pertinent n’est donc probablement pas l’automatisation maximale. Un modèle plus plausible est celui de la délégation délimitée : les interactions de gouvernance peuvent être de plus en plus déléguées à des agents artificiels lorsque les avantages sont substantiels, mais seulement dans des limites qui préservent des niveaux appropriés de responsabilité juridique et éthique.

Responsabilité juridique

La dimension juridique pourrait finalement s’avérer encore plus déterminante. Le droit des sociétés repose sur le concept de la société en tant que personne morale dont les actions sont en fin de compte attribuables aux administrateurs et dirigeants humains. La gouvernance agentique remet en question cette architecture car elle sépare de plus en plus la prise de décision opérationnelle de l’action humaine directe.

La question juridique centrale n’est donc pas simplement de savoir si un agent artificiel peut exécuter une action. Les systèmes automatisés le font déjà largement. La question plus fondamentale est de savoir si un agent artificiel pourrait devenir un porteur indépendant d’autorité, de responsabilité, d’obligation ou même de personnalité juridique.

Deux grands courants de pensée ont émergé. Une perspective plus technocratique préconise d’attribuer la responsabilité directement aux agents artificiels, réduisant ou limitant ainsi la responsabilité de ceux qui les ont conçus, nommés, déployés ou supervisés.

Une perspective plus axée sur la responsabilité va dans la direction opposée, cherchant à élargir plutôt qu’à diluer la responsabilité en créant des constructions juridiques par lesquelles les obligations, les actifs, les dettes et les responsabilités pourraient être attribués aux agents artificiels sans supprimer la responsabilité des acteurs humains derrière eux.

L’approche qui prévaudra finalement sera façonnée autant par la politique et la philosophie politique que par la technologie elle-même. Différents systèmes politiques, fondés sur différentes conceptions de l’autorité, de la légitimité et de l’autonomie individuelle, sont susceptibles d’évaluer les compromis de manière très différente.

Pourtant, à travers les systèmes politiques, il semble peu probable que les sociétés abandonnent totalement l’autorité ultime aux agents artificiels. Les régimes autoritaires peuvent adopter de tels agents comme instruments d’efficacité, de surveillance et de contrôle, tout en résistant à des arrangements institutionnels qui dilueraient l’autorité humaine souveraine.

Les sociétés démocratiques peuvent arriver à une limite similaire pour des raisons très différentes : les citoyens sont peu susceptibles d’accepter la suppression totale de l’action humaine lorsque les décisions affectent matériellement l’emploi, la richesse, les droits ou d’autres intérêts sociaux fondamentaux.

La logique sous-jacente peut différer, mais le résultat pourrait être similaire : les agents artificiels peuvent exercer une autorité déléguée étendue sans devenir la source ultime de l’autorité légitime.

Le développement le plus plausible est donc une allocation stratifiée de l’action. Les agents artificiels peuvent exercer de plus en plus une autorité substantielle aux niveaux organisationnels inférieurs, tandis que les êtres humains restent les porteurs ultimes de la responsabilité constitutionnelle, fiduciaire et politique.

Responsabilité éthique

La question juridique elle-même repose sur une question philosophique plus profonde : que signifie posséder une capacité d’action ? La capacité d’action est généralement associée à l’aptitude à former des intentions, à faire des choix, à poursuivre des objectifs et à assumer la responsabilité des actions qui en résultent. Cela semble intuitivement distinguer les humains des machines. Pourtant, la distinction devient moins évidente après un examen plus approfondi.

Les agents artificiels fonctionnent sur la base d’une architecture, de données d’entraînement, de fonctions d’optimisation, d’entrées environnementales et de contraintes institutionnelles. Les êtres humains, à leur tour, agissent sur la base de prédispositions biologiques, de la socialisation, de l’expérience, des incitations, des valeurs, des environnements institutionnels et des processus neurologiques.

La comparaison mène donc directement à l’une des plus anciennes questions non résolues de la philosophie : le problème du libre arbitre.

Un système artificiel peut de plus en plus se comporter comme s’il possédait une capacité d’action sans que la société n’accepte qu’il possède une capacité d’action morale au même titre qu’un être humain. La distinction entre capacité d’action fonctionnelle et capacité d’action morale pourrait par conséquent devenir l’une des questions déterminantes des futurs systèmes de gouvernance.

De la théorie de l’agence à une théorie agent-agent ?

Même si les sociétés continuent d’insister pour que les humains restent les porteurs ultimes de la responsabilité, la gouvernance agentique est susceptible d’émerger largement aux niveaux inférieurs des organisations.

Cela soulève une question théorique importante. Si des agents artificiels interagissent de plus en plus directement avec d’autres agents artificiels, l’un des concepts fondamentaux de la gouvernance d’entreprise – la théorie de l’agence – doit-il être remplacé par une théorie agent-agent ?

À première vue, la proposition semble plausible. La théorie de l’agence examine traditionnellement les situations dans lesquelles un mandant délègue son autorité à un agent dont les actions ne peuvent être parfaitement observées et dont les intérêts peuvent diverger de ceux du mandant. Les mécanismes de gouvernance tels que le suivi, les incitations, les systèmes de reporting, les garanties contractuelles et les conseils d’administration sont conçus pour atténuer les problèmes d’agence qui en résultent.

Avec la gouvernance agentique, la structure visible de ces relations commence à changer. La gouvernance passe de relations principalement humain-humain vers des combinaisons de relations humain-agent et agent-agent.

Pourtant, cela n’invalide pas nécessairement la théorie de l’agence. La relation mandant-agent n’est pas fondamentalement définie par l’identité biologique des acteurs impliqués. Son cœur réside dans la délégation sous des conditions d’information imparfaite et d’objectifs potentiellement divergents. Ces conditions ne disparaissent pas lorsque l’agent est artificiel. Elles peuvent, en fait, devenir encore plus importantes.

De l’alignement des intérêts à l’alignement des objectifs

La théorie traditionnelle de l’agence suppose fréquemment que les agents possèdent une certaine forme d’intérêt personnel. Les gestionnaires humains peuvent rechercher une rémunération plus élevée, un statut, une sécurité, une influence ou des avantages privés.

Les agents artificiels ne possèdent pas d’intérêt personnel dans ce sens psychologique. Ils ne recherchent pas de plus grands bureaux, des titres prestigieux ou un statut social plus élevé. Mais cela ne signifie pas que les agents artificiels sont exempts de l’équivalent fonctionnel des conflits d’intérêts.

L’équivalent fonctionnel de l’intérêt personnel humain n’est pas le désir de la machine, mais la spécificité de la fonction d’objectif. La gouvernance agentique n’élimine pas le problème de la divergence d’intérêts. Elle le transforme en un problème de divergence d’objectifs. Le défi de la gouvernance passe par conséquent de l’alignement des intérêts à l’alignement des objectifs.

Le désalignement hyper-efficace comme nouveau risque de gouvernance

La question n’est donc plus seulement de savoir si un agent se comporte de manière opportuniste, comme le souligne traditionnellement la théorie de l’agence. La question plus profonde devient de savoir si l’objectif optimisé est le bon objectif en premier lieu.

Les agents artificiels pourraient éventuellement devenir beaucoup plus efficaces pour poursuivre des objectifs étroitement spécifiés avec une cohérence et une persistance extraordinaires. Cela crée un risque de gouvernance distinctif : le désalignement hyper-efficace – un agent poursuivant exceptionnellement bien le mauvais objectif.

Une filiale peut maximiser sa propre rentabilité au détriment du groupe dans son ensemble. Une fonction d’achat peut maximiser l’efficacité des coûts au détriment de la résilience. Un agent financier peut maximiser les rendements au détriment des résultats environnementaux ou sociaux. Plus généralement, l’optimisation à un niveau d’un système ne produit pas nécessairement une optimisation au niveau du système dans son ensemble.

La tension fondamentale se situe donc entre l’optimisation de la valeur individuelle et l’optimisation de la valeur collective. Cela devient particulièrement important dans les systèmes multi-agents. Si chaque agent artificiel est conçu pour maximiser l’objectif qui lui est assigné, des agents de plus en plus performants peuvent reproduire les conflits organisationnels familiers avec une rapidité, une cohérence et une ampleur accrues.

Cette analyse renforce plutôt qu’elle ne mine la pertinence de la théorie de l’agence. Sa proposition la plus profonde n’est pas que les agents humains sont égoïstes. C’est que la délégation crée la possibilité que l’acteur délégué optimise un objectif qui diffère de celui de l’acteur délégant – ou de celui du système plus large.

Vers une architecture stratifiée de l’action humaine et artificielle

La gouvernance agentique ajoute une nouvelle dimension importante à l’évolution de la gouvernance d’entreprise, mais elle ne nécessite pas que la théorie de l’agence soit remplacée par une théorie agent-agent. En effet, la montée en puissance des agents artificiels peut révéler que le problème mandant-agent est plus fondamental que ne le suggère son application traditionnelle aux gestionnaires humains. À mesure que les agents artificiels deviennent de plus en plus capables d’optimiser les objectifs qui leur sont assignés, la question centrale de la gouvernance passe de qui effectue l’optimisation à qui en définit le but et les limites.

L’avenir de la gouvernance est donc susceptible de prendre la forme d’une architecture stratifiée dans laquelle les capacités d’action humaine et artificielle coexistent et opèrent à différents niveaux. Les agents artificiels peuvent devenir extraordinairement efficaces pour optimiser au sein d’un cadre donné. La gouvernance à son plus haut niveau reste cependant une question de choix constitutionnel : déterminer ce qui doit être optimisé, quels intérêts comptent, quels compromis sont légitimes, jusqu’où l’autorité peut être déléguée et où réside la responsabilité ultime.

L’ère agentique ne marquera donc peut-être pas la fin du problème mandant-agent. Au contraire, elle pourrait élever le rôle du mandant à une importance sans précédent.

L’auteur a utilisé des outils d’écriture basés sur l’IA pour soutenir le processus de rédaction. Toutes les idées principales, les arguments et les contributions conceptuelles sont uniquement ceux de l’auteur.

L’article original a été publié dans Board Perspectives.