Vom Ausführen zum Beurteilen: KI-Agenten erfinden den Job neu

Der neue Engpass: Beurteilung statt Ausführung

Wenn KI-Agenten die Ausführung von Wissensarbeit übernehmen, verschiebt sich der knappe menschliche Beitrag. Das eigentliche Problem ist nicht länger, etwas zu produzieren – der Agent erledigt das in Sekunden. Es ist, zu beurteilen, ob das Ergebnis richtig, relevant und sicher ist. Genau hier landen viele Unternehmen unvorbereitet: Ihre besten Leute glauben, sie würden weiterhin selber machen, und stehen plötzlich als Aufseher und Prüfer vor einer Aufgabe, für die es keine etablierte Ausbildung gibt.

Everything is an eval now: Wenn die Antwort fast kostenlos generiert wird, ist nicht mehr die Produktion der knappe Beitrag – der Agent erledigt sie in Sekunden. Übrig bleibt der Teil, der dich noch braucht: die Bewertung. Deine Rolle verschiebt sich vom Autor zum Lektor.

Was das für deine besten Leute bedeutet

Erfahrene Fachkräfte müssen nicht mehr jede Datenbankabfrage, jeden Bericht oder jeden Code selbst schreiben. Stattdessen definieren sie, was «gut» heisst, und prüfen die Ergebnisse. Das ist kein Rückschritt, sondern eine Aufwertung: Urteilsfähigkeit, Branchenwissen und Verantwortung werden wertvoller als schnelles Abarbeiten. Doch die Rolle ist neu – sie verlangt, Halluzinationen zu erkennen und Qualität messbar zu machen.

Evals sind die Spezifikation, nicht die Abnahme

Der häufigste Teamfehler ist, Evaluationen erst nach dem Bau des Agenten anzuhängen. Madhu Guru bringt es auf den Punkt: Das Eval ist nicht die Abnahmephase, es ist die Spezifikation. Eval-Driven Development dreht die Reihenfolge um: Definiere zuerst, was ein gutes Ergebnis ausmacht, bevor du irgendeine Prompt-Logik schreibst.

The most common team mistake is treating evals as a QA step added after the agent is built. The eval is not the acceptance phase; it is the spec.

Top-Teams schreiben deshalb Evaluationen statt Schritt-für-Schritt-Lastenheften. Das bedeutet: Beispiele für gute und schlechte Ergebnisse, klare Abbruchkriterien, domänenspezifische Qualitätsmassstäbe. Wer das versäumt, baut Agenten, die schnell etwas liefern – aber nicht verlässlich das Richtige.

Governance: Zuverlässigkeit vor Autonomie

Gartner formuliert die Leitplanke: Agenten brauchen Zuverlässigkeit, bevor sie Autonomie erhalten. Dazu gehören menschliche Rechenschaftspflicht, definierte Aufsichtsrollen und die kontinuierliche Messung der Agentenzuverlässigkeit. Governance ist kein Feigenblatt, sondern die Voraussetzung dafür, dass du Verantwortung behalten kannst. Für die Führungsetage lohnt der Blick auf KI-Agenten als Entscheider: CEO-Kompetenzen.

Was das für Schweizer Unternehmen heisst

Im Schweizer Mittelstand kommen spezifische Anforderungen dazu: revDSG-konforme Datenverarbeitung, klare Regeln für Cloud- und Hosting-Standorte sowie die Integration mit Systemen wie Abacus, Bexio oder Microsoft 365. Evaluationen müssen genau diese Domänenlogik abbilden – eine generische «Antwort sieht plausibel aus»-Prüfung genügt nicht. Die Qualitätsgates müssen verstehen, was in deiner Branche richtig ist.

Warum sich genau diese Schicht outsourcen lässt

Die Aufsichts- und Bewertungsschicht ist der neue Engpass – aber sie muss nicht im eigenen Haus aufgebaut werden. Du behältst die Fachdomäne, das Branchenwissen und die letzte Entscheidung. Die technische Umsetzung von Evals, Supervision und Qualitätsgates übernimmt ein Partner, der sich darum kümmert, dass die Prüfungen laufen und die Agenten zuverlässig bleiben. So startest du ohne eigenes KI-Team. Wie du das ohne personelle Verluste organisierst, zeigt unser Change-Leitfaden für KI-Agenten.

Der erste Schritt: ein Prozess, ein Qualitätsmassstab

Beginne nicht mit einer grossen Plattform. Wähle einen wiederkehrenden, gut abgrenzbaren Prozess, bei dem Qualität objektiv beurteilbar ist. Definiere vor dem Bau, was ein gutes Ergebnis ausmacht – mit Beispielen, Grenzfällen und klaren Abbruchkriterien. Dann erst lohnt sich die Frage, ob ein Agent den Prozess übernehmen kann und wie die Aufsicht organisiert wird. Warum die Frage «wie viele ersetzen?» falsch ist, erklären wir im ROI-Leitfaden.