Agents, die Sie nicht gebaut haben

Es gibt ein Dokument, das in Organisationen niemand vollständig liest und das inzwischen Entscheidungen enthält: die Release Notes der eingesetzten Software. Fehlerbehebungen, eine überarbeitete Suche, ein neues Berichtsformat, und irgendwo dazwischen ein Absatz über eine Assistenzfunktion, die Vorgänge selbstständig vorbereitet und im System ablegt. Aktiv wird sie mit dem Update. Wer nichts tut, hat sie.

Zwei Etagen weiter bereitet in derselben Woche ein Fachbereich die Freigabe für einen selbst gebauten Agent vor. Zwei Wochen Vorlauf, eine Risikoeinordnung, eine längere Diskussion über Berechtigungen, am Ende eine Auflage und ein Ja. Alle Beteiligten machen ihre Arbeit ordentlich. Sie machen sie nur an dem Agent, der ohnehin durch ein Verfahren läuft.

Im letzten Beitrag ging es um eine Kontrolle, die zugesagt und nie nachgehalten wird. Diesmal geht es um Agents, die diese Zusage gar nicht erst erreichen. Meine These: Das Freigabeverfahren, das die meisten Organisationen in den letzten zwei Jahren aufgebaut haben, ist auf Agents zugeschnitten, die im eigenen Haus entstehen. Über den anderen Teil des Bestands wurde längst entschieden, bei einer Unterschrift, in der es um etwas anderes ging.

Der dritte Weg ins Haus

Es lohnt sich, die Wege auseinanderzuhalten, auf denen ein Agent in einer Organisation zu arbeiten beginnt. Der offizielle ist bekannt: Ein Vorhaben wird beantragt, gebaut, freigegeben. Für ihn ist das Verfahren gemacht, und dort greift es meistens auch. Daneben liegt der Weg, über den ich beim genehmigten Wildwuchs geschrieben habe: Mitarbeitende bauen sich in der freigegebenen Plattform in zwanzig Minuten selbst etwas zusammen, ohne Beschaffung und ohne Antrag.

Der dritte Weg ist der unauffälligste, weil auf ihm niemand im Haus etwas baut. Diese Agents werden geliefert. Sie kommen als Funktion in einem Release, in einem Produkt, das seit Jahren im Einsatz ist, unter einem Vertrag, der verhandelt wurde, als das Wort Agent in Ausschreibungen noch nicht vorkam. Für das Verfahren existieren sie nicht. Es gibt kein Vorhaben, keinen Business Case und niemanden, der etwas beantragt hätte.

Gyana Swain hat am 2. Juli auf CIO.com über eine Gartner-Analyse berichtet, die das aus der Marktperspektive beschreibt. Danach stehen bis 2030 rund 234 Milliarden Dollar an Ausgaben für Unternehmensanwendungen unter Druck, weil Agents die Bedienoberflächen umgehen und über Schnittstellen direkt arbeiten. Für die Steuerung ist ein Satz wichtiger als die Summe, mit dem George Brocklehurst von Gartner dort zitiert wird: Man kaufe Software nicht mehr in erster Linie für Menschen, sondern zunehmend für Agents. Die Empfehlung, die Gartner daraus ableitet, klingt nach Rechtsabteilung und ist eine Führungsfrage. Sie lautet, die eigene Vertragssprache zu prüfen, bevor eine Agent-Strategie beschlossen wird, weil bestehende Vereinbarungen sie einschränken können, ohne dass das jemandem bewusst wäre.

Ich würde den Satz noch ergänzen. Man kauft Software inzwischen nicht nur für Agents. Man kauft Agents mit der Software, in einem Vorgang, der in keiner AI-Roadmap auftaucht.

Verantwortung wird nicht mitgeliefert

Der beruhigende Gedanke an dieser Stelle lautet, dass ein Anbieter für sein Produkt einsteht. Ryan Foltyniewicz hat am 6. August für EisnerAmper über verdecktes Anbieterrisiko und die Rolle der Prüfung geschrieben, und einer seiner Sätze räumt damit auf: Wer einen Prozess auslagert, lagert die Verantwortung dafür nicht mit aus. Produziert die AI eines Anbieters ein falsches, diskriminierendes oder regelwidriges Ergebnis, kann es weiterhin die eigene Organisation sein, die dafür geradestehen muss. Zur Vertragslage schreibt er, was ich in Projekten regelmäßig sehe: Ältere Vereinbarungen sagen zu AI-Nutzung, zu Trainingsdaten, zu menschlicher Prüfung und zu schädlichen Ergebnissen praktisch nichts, weil sie vor dieser Zeit geschlossen wurden. Seine Empfehlung, AI als wesentlichen Risikofaktor eines Anbieters zu behandeln statt als Produktmerkmal, beschreibt die Verschiebung ziemlich genau.

Nach innen entsteht dabei eine Lücke, die keine Zuständigkeitsdiskussion schließt. Die sechs Fragen, die ich für jeden Agent im Betrieb für notwendig halte, lassen sich bei einem gelieferten Agent nicht aus eigener Kraft beantworten. Wem gehört er? Wie wird er beobachtet? Der Fachbereich hat ihn nicht gebaut, die IT hat ihn nicht bestellt. Der Anbieter beantwortet, was jemand ihn fragt, und niemand sonst kennt die Antwort. Bei gelieferten Agents sind das damit Fragen an einen Vertrag, und beantwortet werden sie nur zu einem Zeitpunkt, an dem die eigene Seite noch etwas zu bieten hat.

Der Moment, in dem man noch verlangen kann

Zugespitzt: Das wirksamste Instrument der AI-Governance in den nächsten zwei Jahren steht auf keiner Governance-Folie. Es ist die Liste der anstehenden Vertragsverlängerungen. Nach der Unterschrift kann eine Organisation bitten. Vorher kann sie verlangen.

Am meisten trägt dabei eine Ankündigung mit Zustimmungsvorbehalt: Keine neue agentische Funktion wird im eigenen Mandanten aktiv, ohne dass die Organisation davon weiß und ausdrücklich zustimmt. In den Häusern, die ich kenne, ist die Voreinstellung selten das Ausschalten, und Voreinstellung ist in großen Organisationen nur ein anderes Wort für Entscheidung.

Ähnlich wichtig ist die selektive Abschaltbarkeit. Eine einzelne Funktion muss sich deaktivieren lassen, ohne dass das Produkt unbrauchbar wird. Fehlt diese Möglichkeit, besteht das einzige verfügbare Nein in der Kündigung des ganzen Vertrags. Ein Nein zu diesem Preis wird nie ausgesprochen, und die Organisation hat damit faktisch keines.

Dazu kommen Protokolle, die man selbst lesen kann: was der gelieferte Agent getan hat, mit welchen Daten, in welchem Vorgang, exportierbar und unabhängig von der Oberfläche des Anbieters. Wer beim Abschalten einmal erlebt hat, wie mühsam sich ein gewachsener Bestand rekonstruieren lässt, weiß, warum diese Zeile in den Vertrag gehört.

Kaum verhandelt wird bisher eine vierte Frage, die aus derselben CIO-Analyse stammt: Wo bleibt eigentlich, was der Agent im täglichen Betrieb über die eigenen Prozesse lernt? Sammelt sich das beim Anbieter, entsteht eine Abhängigkeit, die sich später auch mit einem besseren Angebot der Konkurrenz nicht mehr auflösen lässt.

Was der Einkauf dafür braucht

Das Naheliegende wäre jetzt, dem Einkauf einen weiteren Abschnitt für den Standardfragebogen zu schreiben. Damit entsteht Papier. Wer Anbieterfragen stellt, ohne sagen zu können, welche Antwort zum Abbruch führt, sammelt Auskünfte.

Was diese Funktion braucht, ist dasselbe, was ich für Gremien beschrieben habe, nur an einer anderen Stelle der Organisation: ein Kriterium, das vor dem Einzelfall vereinbart wurde, und das Recht, daran festzuhalten. Konkret heißt das, dass der Einkauf eine Verlängerung anhalten darf, bis eine benannte Person entschieden hat. Ohne dieses Recht wird jede Klausel zur Verhandlungsmasse gegenüber dem Termindruck, den es in Vertragsverhandlungen immer gibt. Für das AI-Gremium folgt daraus ein Tagesordnungspunkt, der dort heute fast nie steht: die Verträge, die in den nächsten zwölf Monaten auslaufen, und die Frage, in welchen davon inzwischen Agents stecken.

Ich will den Hebel nicht größer machen, als er ist. Gegen einen sehr großen Plattformanbieter verhandelt ein mittelständisches Unternehmen keine Sonderklauseln, und wer etwas anderes verspricht, war länger nicht in einer solchen Verhandlung. Dort liegt der Hebel in der Konfiguration und in der Entscheidung, welche Funktionen überhaupt aktiviert werden. Für die übrigen Verträge, und das ist die Mehrzahl, gilt die Einschränkung nicht. Bei Branchensoftware, bei Servicewerkzeugen, bei Fachanwendungen mittlerer Größe ist die Verlängerung ein echter Verhandlungstermin, und die Anbieter sind auf diese Fragen schlechter vorbereitet, als ihre Kundschaft vermutet.

Der Bestand an Agents in einer Organisation wächst in den nächsten Jahren schneller durch Lieferung als durch eigenen Bau. Wer in zwei Jahren noch sagen kann, welche davon im eigenen Haus arbeiten und wer für sie einsteht, verdankt das ein paar Klauseln, die jemand rechtzeitig verlangt hat, als der Anbieter noch etwas wollte.