Was sind KI-Agenten und wo ist Vorsicht geboten?

Der Unterschied

Normaler Einsatz: Sie fragen, das Modell antwortet. Ein Fehler ist ein falscher Satz.

Agent: Das Modell entscheidet selbst, welche Werkzeuge es einsetzt, ruft sie auf, wertet das Ergebnis aus und macht weiter. Ein Fehler ist eine falsche Handlung.

Wo es sinnvoll ist

• Informationen aus mehreren Systemen zusammentragen
• Mehrstufige Recherche in eigenen Unterlagen
• Routineabläufe mit klaren Grenzen
• Vorbereitung von Vorgängen, die eine Person freigibt

Wo Vorsicht geboten ist

Überall dort, wo der Agent schreibend tätig wird: E-Mails versenden, Datensätze ändern, Bestellungen auslösen, Zahlungen anstossen.

Die Regeln, die gelten sollten

Lesen frei, Schreiben eingeschränkt. Lesende Zugriffe sind unkritisch. Jede verändernde Handlung braucht enge Grenzen.

Freigabe bei Aussenwirkung. Alles, was das Unternehmen verlässt oder Geld bewegt, wird vorgeschlagen, nicht ausgeführt.

Eigene Rechte für den Agenten. Nicht mit einem Administratorkonto betreiben. Ein Agent sollte weniger dürfen als der Mensch, für den er arbeitet.

Vollständige Protokollierung. Jeder Werkzeugaufruf mit Zeitpunkt und Ergebnis.

Begrenzung. Höchstzahl an Schritten, damit ein Agent nicht in einer Schleife hängen bleibt und Kosten erzeugt.

Die ehrliche Einschätzung

Agenten sind vielversprechend und noch jung. Für Aufgaben mit finanzieller oder rechtlicher Wirkung ist die Zuverlässigkeit heute nicht ausreichend, um sie ohne Prüfschritt einzusetzen.