DIE AUSGANGSLAGE
Ein guter Testlauf ist noch kein verlässlicher Alltag.
Ein Prototyp arbeitet häufig mit ausgewählten Dokumenten und wenigen bekannten Fragen. Im Alltag ändern sich Daten, Nutzer haben unterschiedliche Rechte und Ausnahmen werden zur Regel. Antworten, die plausibel klingen, können trotzdem unvollständig oder sachlich falsch sein.
Bei KI-Agenten kommt hinzu, dass Ergebnisse weitere Aktionen auslösen können. Neben der Antwortqualität sind deshalb erlaubte Aktionen, Freigaben, Abbruchbedingungen und der Umgang mit Fehlern zu prüfen.