Agentische Governance: Ist es an der Zeit, die Prinzipal-Agent-Theorie zu überdenken?
Künstliche Intelligenz beginnt, nicht nur die Art und Weise zu verändern, wie Organisationen Entscheidungen treffen, sondern auch, wie Governance selbst ausgeübt wird. Ein Großteil der aktuellen Diskussion konzentriert sich darauf, inwieweit künstliche Intelligenz menschliche Entscheidungsfindung unterstützen, erweitern oder automatisieren kann. Doch das Aufkommen agentischer Intelligenz wirft eine grundlegendere Frage auf: Was geschieht, wenn künstliche Systeme zunehmend autonom mit anderen künstlichen Systemen interagieren, verhandeln, entscheiden und handeln?
Das Aufkommen agentischer Governance
Agentische Governance fügt der künstlichen Governance eine neue Dimension hinzu. Künstliche Governance bezeichnet allgemein die Anwendung künstlicher Intelligenz auf Governance-Prozesse. Künstliche Systeme können Informationen sammeln, Muster erkennen, Empfehlungen generieren, Alternativen bewerten oder sogar vordefinierte Entscheidungen ausführen.
Agentische Governance stellt eine qualitativ andere Konfiguration dar. Sie entsteht, wenn künstlichen Agenten die Fähigkeit übertragen wird, nicht nur Informationen zu verarbeiten, sondern auch Ziele zu verfolgen, mit anderen Agenten zu interagieren, Zielkonflikte auszuhandeln, Entscheidungen zu treffen und Handlungen einzuleiten – ohne kontinuierliches menschliches Eingreifen. Das künstliche System entwickelt sich damit von einem überwiegend instrumentellen Governance-Werkzeug hin zu einem Akteur innerhalb der Governance-Beziehung selbst.
Dadurch verändert sich die zentrale Fragestellung. Künstliche Governance fragt, welche Governance-Entscheidungen automatisiert werden können und sollen. Agentische Governance fragt, welche Governance-Interaktionen an autonome Agenten delegiert werden können und sollen.
Die Grenzen agentischer Governance
Der künftige Umfang agentischer Governance wird letztlich von mehreren miteinander verknüpften Grenzen abhängen: technologischer Machbarkeit, wirtschaftlicher Attraktivität, rechtlicher Rechenschaftspflicht und ethischer Verantwortung.
Technologische Machbarkeit
Aus technologischer Sicht dürften die Grenzen agentischer Governance nach und nach weniger ins Gewicht fallen. In zunehmend vernetzten Organisationsumgebungen können künstlichen Agenten theoretisch Zugriff auf Informationen, Ressourcen, Transaktionssysteme, Entscheidungsrechte und Kommunikationskanäle gewährt werden.
Je leistungsfähiger künstliche Intelligenz wird und je stärker Organisationssysteme miteinander vernetzt sind, dürfte sich die technologische Frage daher zunehmend von der Frage, ob agentische Governance möglich ist, hin zu der Frage verschieben, wo Organisationen und Gesellschaften Grenzen setzen wollen.
Wirtschaftliche Attraktivität
Die wirtschaftliche Logik ist ähnlich überzeugend. Künstliche Agenten können Informationen kontinuierlich verarbeiten, mit Maschinengeschwindigkeit koordinieren, Transaktionskosten senken und Entscheidungsregeln konsistenter anwenden als menschliche Akteure. Organisationen werden folglich starke Anreize haben, Governance-Interaktionen überall dort zu delegieren, wo Automatisierung Effizienz, Reaktionsfähigkeit oder Kosteneffektivität verbessert.
Doch Governance lässt sich nicht auf Effizienz reduzieren. Governance betrifft auch die Verteilung von Macht, den Ausgleich konkurrierender Interessen, die Ausübung von Urteilskraft, die Herstellung von Legitimität und die Zuweisung von Rechenschaftspflicht. Eine Governance-Interaktion kann daher hoch effizient sein, ohne deshalb zwingend wünschenswert zu sein.
Das maßgebliche Prinzip wird daher kaum maximale Automatisierung sein. Ein plausibleres Modell ist begrenzte Delegation: Governance-Interaktionen können zunehmend an künstliche Agenten delegiert werden, wo die Vorteile erheblich sind – jedoch nur innerhalb von Grenzen, die angemessene Niveaus rechtlicher Rechenschaftspflicht und ethischer Verantwortung wahren.
Rechtliche Rechenschaftspflicht
Die rechtliche Dimension könnte sich letztlich als noch folgenreicher erweisen. Das Gesellschaftsrecht beruht auf dem Konzept der Gesellschaft als juristischer Person, deren Handlungen letztlich menschlichen Verwaltungsratsmitgliedern und Geschäftsleitungsmitgliedern zugerechnet werden. Agentische Governance stellt diese Architektur infrage, weil sie operative Entscheidungsfindung zunehmend von direkter menschlicher Handlungsfähigkeit entkoppelt.
Die zentrale Rechtsfrage lautet daher nicht einfach, ob ein künstlicher Agent eine Handlung ausführen darf. Automatisierte Systeme tun dies bereits in großem Umfang. Die grundlegendere Frage ist, ob ein künstlicher Agent zu einem eigenständigen Träger von Autorität, Verantwortung, Haftung oder sogar Rechtspersönlichkeit werden könnte.
Es haben sich zwei große Denkschulen herausgebildet. Eine stärker technokratische Perspektive befürwortet, Verantwortung direkt künstlichen Agenten zuzuschreiben und damit die Haftung derjenigen zu reduzieren oder zu begrenzen, die sie entworfen, bestellt, eingesetzt oder beaufsichtigt haben.
Eine stärker auf Rechenschaftspflicht ausgerichtete Perspektive geht in die entgegengesetzte Richtung und versucht, Verantwortung eher auszuweiten als zu verwässern, indem rechtliche Konstrukte geschaffen werden, über die Pflichten, Vermögenswerte, Verbindlichkeiten und Verantwortlichkeiten künstlichen Agenten zugerechnet werden könnten, ohne die Rechenschaftspflicht der dahinterstehenden menschlichen Akteure aufzuheben.
Welche Herangehensweise sich letztlich durchsetzt, wird ebenso sehr von Politik und politischer Philosophie geprägt sein wie von der Technologie selbst. Unterschiedliche politische Systeme, die auf unterschiedlichen Vorstellungen von Autorität, Legitimität und individueller Autonomie beruhen, werden die Abwägungen voraussichtlich sehr unterschiedlich beurteilen.
Doch über politische Systeme hinweg erscheint es unwahrscheinlich, dass Gesellschaften die letztendliche Autorität vollständig an künstliche Agenten abtreten. Autoritäre Regime könnten solche Agenten als Instrumente von Effizienz, Überwachung und Kontrolle begrüßen, zugleich aber institutionelle Arrangements ablehnen, die souveräne menschliche Autorität verwässern.
Demokratische Gesellschaften könnten aus ganz anderen Gründen zu einer ähnlichen Grenze gelangen: Bürgerinnen und Bürger werden kaum akzeptieren, dass menschliche Handlungsfähigkeit pauschal entfernt wird, wenn Entscheidungen Beschäftigung, Vermögen, Rechte oder andere grundlegende gesellschaftliche Interessen wesentlich betreffen.
Die zugrunde liegende Begründung mag unterschiedlich sein, doch das Ergebnis könnte ähnlich ausfallen: Künstliche Agenten können weitreichende delegierte Autorität ausüben, ohne zur letztendlichen Quelle legitimer Autorität zu werden.
Die plausiblere Entwicklung ist daher eine gestufte Zuweisung von Handlungsfähigkeit. Künstliche Agenten könnten zunehmend auf unteren Organisationsebenen substanzielle Autorität ausüben, während Menschen die letztendlichen Träger verfassungsrechtlicher, treuhänderischer und politischer Rechenschaftspflicht bleiben.
Ethische Verantwortung
Die Rechtsfrage selbst beruht auf einem tieferen philosophischen Problem: Was bedeutet es, Handlungsfähigkeit zu besitzen? Handlungsfähigkeit wird allgemein mit der Fähigkeit verbunden, Absichten zu bilden, Entscheidungen zu treffen, Ziele zu verfolgen und Verantwortung für daraus resultierende Handlungen zu tragen. Dies scheint intuitiv Menschen von Maschinen zu unterscheiden. Doch bei näherer Betrachtung wird diese Unterscheidung weniger eindeutig.
Künstliche Agenten operieren auf der Grundlage von Architektur, Trainingsdaten, Optimierungsfunktionen, Umwelteingaben und institutionellen Beschränkungen. Menschen wiederum handeln auf der Grundlage biologischer Dispositionen, Sozialisation, Erfahrung, Anreizen, Werten, institutionellen Umwelten und neurologischen Prozessen.
Der Vergleich führt daher direkt zu einer der ältesten ungelösten Fragen der Philosophie: dem Problem des freien Willens.
Ein künstliches System kann sich zunehmend so verhalten, als besäße es Handlungsfähigkeit, ohne dass die Gesellschaft akzeptiert, dass es im gleichen Sinne wie ein Mensch moralische Handlungsfähigkeit besitzt. Die Unterscheidung zwischen funktionaler Handlungsfähigkeit und moralischer Handlungsfähigkeit könnte folglich zu einer der prägenden Fragen künftiger Governance-Systeme werden.
Von der Prinzipal-Agent- zur Agent-Agent-Theorie?
Selbst wenn Gesellschaften weiterhin darauf bestehen, dass Menschen die letztendlichen Träger von Rechenschaftspflicht bleiben, dürfte agentische Governance auf unteren Ebenen von Organisationen in großem Umfang entstehen.
Dies wirft eine wichtige theoretische Frage auf. Wenn künstliche Agenten zunehmend direkt mit anderen künstlichen Agenten interagieren, muss dann eines der Grundkonzepte der Corporate Governance – die Prinzipal-Agent-Theorie – durch eine Agent-Agent-Theorie ersetzt werden?
Auf den ersten Blick erscheint die These plausibel. Die Prinzipal-Agent-Theorie untersucht traditionell Situationen, in denen ein Prinzipal Autorität an einen Agenten delegiert, dessen Handlungen nicht perfekt beobachtet werden können und dessen Interessen von denen des Prinzipals abweichen können. Governance-Mechanismen wie Überwachung, Anreize, Berichtssysteme, vertragliche Schutzmechanismen und Verwaltungsräte sollen die daraus resultierenden Agency-Probleme mindern.
Mit agentischer Governance beginnt sich die sichtbare Struktur dieser Beziehungen zu verändern. Governance verschiebt sich von überwiegend Mensch-Mensch-Beziehungen hin zu Kombinationen aus Mensch-Agent- und Agent-Agent-Beziehungen.
Dies entkräftet die Prinzipal-Agent-Theorie jedoch nicht zwangsläufig. Die Prinzipal-Agent-Beziehung ist nicht grundlegend durch die biologische Identität der beteiligten Akteure definiert. Ihr Kern liegt in Delegation unter Bedingungen unvollkommener Information und potenziell divergierender Ziele. Diese Bedingungen verschwinden nicht, wenn der Agent künstlich ist. Sie könnten im Gegenteil sogar noch wichtiger werden.
Von Interessenabgleich zu Zielabgleich
Die traditionelle Prinzipal-Agent-Theorie geht häufig davon aus, dass Agenten eine Form von Eigeninteresse besitzen. Menschliche Manager können nach höherer Vergütung, Status, Sicherheit, Einfluss oder privaten Vorteilen streben.
Künstliche Agenten besitzen in diesem psychologischen Sinne kein Eigeninteresse. Sie streben nicht nach größeren Büros, prestigeträchtigen Titeln oder höherem sozialem Status. Das bedeutet jedoch nicht, dass künstliche Agenten frei vom funktionalen Äquivalent widerstreitender Interessen sind.
Das funktionale Äquivalent menschlichen Eigeninteresses ist nicht maschinelles Begehren, sondern die Spezifität der Zielfunktion. Agentische Governance beseitigt das Problem divergierender Interessen nicht. Sie transformiert es in ein Problem divergierender Ziele. Die Governance-Herausforderung verschiebt sich folglich vom Abgleich von Interessen hin zum Abgleich von Zielen.
Hyper-effiziente Fehlanpassung als neues Governance-Risiko
Die Frage ist daher nicht mehr nur, ob ein Agent opportunistisch handelt, wie es in der Prinzipal-Agent-Theorie traditionell betont wird. Die tiefere Frage lautet, ob das optimierte Ziel überhaupt das richtige Ziel ist.
Künstliche Agenten könnten letztlich wesentlich effektiver darin werden, eng spezifizierte Ziele mit außergewöhnlicher Konsistenz und Beharrlichkeit zu verfolgen. Dies schafft ein spezifisches Governance-Risiko: hyper-effiziente Fehlanpassung – ein Agent, der das falsche Ziel außergewöhnlich gut verfolgt.
Eine Tochtergesellschaft könnte ihre eigene Profitabilität auf Kosten des Gesamtkonzerns maximieren. Eine Beschaffungsfunktion könnte Kosteneffizienz auf Kosten der Resilienz maximieren. Ein Finanzagent könnte Renditen auf Kosten ökologischer oder sozialer Ergebnisse maximieren. Allgemeiner gilt: Optimierung auf einer Ebene eines Systems führt nicht zwingend zu Optimierung auf der Ebene des Gesamtsystems.
Die grundlegende Spannung besteht daher zwischen individueller Wertoptimierung und kollektiver Wertoptimierung. Dies wird insbesondere in Multi-Agenten-Systemen wichtig. Wenn jeder künstliche Agent darauf ausgelegt ist, das ihm zugewiesene Ziel zu maximieren, können zunehmend leistungsfähige Agenten vertraute organisatorische Konflikte mit größerer Geschwindigkeit, Konsistenz und Skalierung reproduzieren.
Diese Einsicht stärkt die Relevanz der Prinzipal-Agent-Theorie, statt sie zu untergraben. Ihre tiefste Aussage ist nicht, dass menschliche Agenten egoistisch sind. Sie lautet, dass Delegation die Möglichkeit schafft, dass der delegierte Akteur ein Ziel optimiert, das sich von dem des delegierenden Akteurs – oder dem des weiteren Systems – unterscheidet.
Hin zu einer gestuften Architektur menschlicher und künstlicher Handlungsfähigkeit
Agentische Governance fügt der Entwicklung der Corporate Governance eine wichtige neue Dimension hinzu, erfordert jedoch nicht, die Prinzipal-Agent-Theorie durch eine Agent-Agent-Theorie zu ersetzen. Tatsächlich könnte der Aufstieg künstlicher Agenten zeigen, dass das Prinzipal-Agent-Problem grundlegender ist, als es seine traditionelle Anwendung auf menschliche Manager nahelegt. Je besser künstliche Agenten in der Lage sind, die ihnen zugewiesenen Ziele zu optimieren, desto stärker verschiebt sich die zentrale Governance-Frage von der Frage, wer die Optimierung vornimmt, hin zu der Frage, wer ihren Zweck und ihre Grenzen definiert.
Die Zukunft der Governance wird daher voraussichtlich die Form einer gestuften Architektur annehmen, in der menschliche und künstliche Handlungsfähigkeit koexistieren und auf unterschiedlichen Ebenen wirken. Künstliche Agenten könnten außerordentlich effektiv darin werden, innerhalb eines gegebenen Rahmens zu optimieren. Governance auf ihrer höchsten Ebene bleibt jedoch eine Frage verfassungsähnlicher Entscheidung: festzulegen, was optimiert werden soll, wessen Interessen zählen, welche Abwägungen legitim sind, wie weit Autorität delegiert werden darf und wo die letztendliche Rechenschaftspflicht liegt.
Das agentische Zeitalter markiert daher möglicherweise nicht das Ende des Prinzipal-Agent-Problems. Im Gegenteil: Es könnte die Rolle des Prinzipals auf ein beispielloses Maß an Bedeutung heben.
Der Autor nutzte KI-basierte Schreibwerkzeuge zur Unterstützung des Entwurfsprozesses. Alle Kernideen, Argumente und konzeptionellen Beiträge stammen ausschließlich vom Autor.
Der Originalartikel wurde in Board Perspectives veröffentlicht.
Navigation
Board ViewsJede Strategie braucht eine Eignerstrategie
Wer bestimmt letztlich die strategische Ausrichtung eines Unternehmens? Der Verwaltungsrat, der CEO, die Strategieabteilung, die Strategieberater oder vielleicht sogar die künstliche Intelligenz?
Die naheliegenden Antworten sind verlockend, aber unvollständig. Nicht der Verwaltungsrat allein, auch wenn er die zentrale Verantwortung für die strategische Ausrichtung und Überwachung trägt. Nicht der CEO, obwohl das Management in der Regel die Strategie entwickelt und umsetzt. Nicht die Strategieabteilung, obwohl sie den Prozess strukturieren kann. Nicht die Berater, obwohl sie die Analyse schärfen können. Und nicht die künstliche Intelligenz, obwohl sie im Strategieprozess eine immer wichtigere Rolle spielt.
All diese Akteure können die Strategie prägen, verfeinern und in Entscheidungen und Handlungen übersetzen. Doch die grundlegendsten strategischen Erwartungen sollten eine Ebene höher entstehen: bei den Eignern.
Ob der Eigner eine Familie, der Staat, eine Stiftung, ein Private-Equity-Investor oder ein breit gestreuter Aktionärskreis ist – Eigentum bringt zwangsläufig Erwartungen mit sich. Eigner haben explizite oder implizite Vorstellungen davon, warum sie das Unternehmen halten, was sie von ihm erwarten, wie lange sie investiert bleiben wollen, welche Risiken sie zu akzeptieren bereit sind, wie viel Kapital sie zur Verfügung stellen wollen und was sie letztlich unter Wertschöpfung verstehen. Diese Erwartungen bilden das, was als Eignerstrategie bezeichnet werden kann.
Board ViewsEntlarvung von zehn gängigen Mythen über Boards
Boards lieben einfache Formeln. „Nase rein, Hände weg.“ „Boards legen die Strategie fest.“ „Unabhängigkeit zählt.“ „Fragen stellen, keine Antworten geben.“ Sie sind einprägsam, leicht zu vermitteln und oft richtungsweisend richtig. Sie sind aber auch gefährlich, wenn sie zu wörtlich genommen werden.
Die meisten Governance-Mythen sind nicht falsch, weil sie unwahr sind. Sie sind falsch, weil sie unvollständig sind. Sie erfassen eine Seite einer Spannung, während sie die andere ignorieren. Doch die Effektivität von Boards entsteht selten durch die Wahl einer Seite. Sie entsteht durch das Verständnis beider Seiten.
Hier sind zehn Mythen über Boards, die es wert sind, entlarvt zu werden.
Board ViewsDer denkende Verwaltungsrat im Zeitalter der KI
Verwaltungsräte stehen heute vor einem Paradoxon. Einerseits agieren sie in einem Umfeld radikaler Komplexität. Andererseits bleiben Direktoren menschlich – in ihrer Rationalität begrenzt, in ihrer Fähigkeit zur Informationsverarbeitung eingeschränkt und anfällig für systematische Verzerrungen, die das Urteilsvermögen prägen. Künstliche Intelligenz (KI) verspricht, diese Gleichung zu ändern. Indem sie die Reichweite der menschlichen Kognition erweitern, ermöglichen sie es Verwaltungsräten, sich von einer Welt struktureller Informationsasymmetrie hin zu einer Welt der Intelligenzsymmetrie zu bewegen. Doch Technologie allein kann keine bessere Governance garantieren. Was daher benötigt wird, ist der denkende Verwaltungsrat, der Annahmen diskutiert, sich auf Daten stützt, inklusiv berät und den Dialog mit seinen Stakeholdern aufrechterhält.
Board ViewsVon der Informationsasymmetrie zur Intelligenzsymmetrie: wie KI die Corporate Governance umgestalten wird
Informationsasymmetrie ist seit langem eine zentrale Herausforderung in der Unternehmensführung, die zu Fehlanreizen, Agenturproblemen und einer verringerten Organisationseffizienz führt. Dieser Artikel untersucht das transformative Potenzial der künstlichen Intelligenz (KI), die Unternehmensführung von von Informationsasymmetrien dominierten Regimen zu neuen Paradigmen zu verlagern, die durch „Intelligenzsymmetrien“ gekennzeichnet sind. Durch die Verbesserung der Transparenz, die Automatisierung der Aufsicht und die Ermöglichung prädiktiver Analysen kann KI die Stakeholder-Beziehungen neu ausrichten und die Governance-Ergebnisse verbessern. Der Artikel bietet einen theoretischen Rahmen, untersucht reale Implementierungen und diskutiert die Einschränkungen und ethischen Bedenken im Zusammenhang mit KI-gesteuerter Governance. Letztendlich wird argumentiert, dass KI die Macht besitzt, nicht nur die Effizienz von Governance-Mechanismen zu verbessern, sondern auch die Unternehmensaufsicht zu demokratisieren, indem sie Intelligenz über die gesamte Unternehmenshierarchie hinweg zugänglich und umsetzbar macht.
Board ViewsRisiko im VR neu denken: von der Risiko-Oversight zur Foresight
Unternehmensverwaltungsräte sehen sich zunehmend komplexen und dynamischen Risikolandschaften gegenüber, in denen traditionelle Risikomanagementprozesse hervorragend schlummernde Risiken managen, aber oft nicht in der Lage sind, erwachende Risiken zu identifizieren, die die langfristige Nachhaltigkeit des Unternehmens bedrohen. Dieses Papier schlägt einen Dual-Framing-Ansatz vor – die Kombination von „Was wäre, wenn“- und „Was wäre, wenn nicht“-Perspektiven bei der Entscheidungsfindung des Verwaltungsrats –, um kognitive und prozedurale Verzerrungen in der Risikogovernance zu adressieren. Wir integrieren Verhaltensentscheidungstheorie, Risikogovernance-Frameworks und Treuhänderrecht, um ein konzeptionelles Modell zur Verbesserung der Effektivität des Verwaltungsrats bereitzustellen. Wir zeigen, wie Dual-Framing Risikofallen mindern, die strategische Voraussicht verbessern und die Einhaltung der Business Judgment Rule stärken kann. Praktische Implikationen für die Verwaltungsratsführung, rechtliche Verteidigungsfähigkeit und organisationale Resilienz werden vorgestellt.
Board ViewsVon der Corporate Governance der Nachhaltigkeit zur nachhaltigen Corporate Governance
Wie lässt sich Nachhaltigkeit am besten in die Corporate Governance integrieren? Die Verwaltungsräte haben sich für zwei unterschiedliche Wege entschieden: den funktionalen Weg, der sich auf die Corporate Governance der Nachhaltigkeit konzentriert, und den grundlegenden Ansatz, der zu einer nachhaltigen Corpororate Governance führt. In diesem Artikel werden die Vorzüge und Grenzen beider Ansätze bewertet und ein Übergang zu einer nachhaltigen Governance gefordert. Dies setzt voraus, dass die Mitglieder des Verwaltungsrats sich regelmässig mit den Interessengruppen austauschen und die zugrunde liegenden Annahmen kontinuierlich diskutieren, um den Governance-Rahmen bei Bedarf weiterzuentwickeln.
Board ViewsDie Mehrzweckgesellschaft als Motor für nachhaltige Wertschöpfung
Die Art der Debatte über die Rolle der Wirtschaft in der Gesellschaft deutet stark auf einen zyklischen Charakter hin, mit ständigen Versuchen, verschiedene Interessen und Perspektiven auszugleichen. Um die Illusion zu überwinden, dieses Rätsel zu lösen, schlägt dieser Artikel einen alternativen Ansatz vor, den Mehrzweckkapitalismus. Sie geht davon aus, dass Unternehmen nicht nur aufgrund ihrer Produkte und Dienstleistungen, sondern auch aufgrund ihrer unterschiedlichen Zweckprofile miteinander konkurrieren sollten. Es bleibt den Verbrauchern, Arbeitnehmern und Investoren überlassen, wo sie einkaufen, arbeiten und investieren wollen. Der Artikel bietet einen Rahmen und eine Methodik für die Schaffung eines umfassenden Ökosystems, das diesen Abstimmungsprozess ermöglicht, und zeigt Wege zur Bewältigung der Herausforderungen auf diesem Weg auf.
