Technologiebranche: MSP-News für IT-Dienstleister & Systemhäuser

Fehlerhafte KI-Empfehlungen: Das unbemerkte Risiko bei der Ticketlösung durch Automatisierung

Episode Notes

Die Episode beleuchtet einen strukturellen Wandel hin zu einer operativen Abhängigkeit von KI-Agenten als Service-Personal und nicht nur als Unterstützungswerkzeuge. Dies wirft neue Fragen bezüglich Kompetenzverlust, Kontrollmechanismen und Verantwortlichkeit in Managed-Service-Umgebungen auf. Shield Technology Partners und Microsoft veranschaulichen diesen Trend durch den Einsatz von KI-Betriebssystemen—Shields Forge und Microsofts Autopilot—die eigenständig wesentliche Teile des IT-Support-Prozesses übernehmen, teils von der Aufnahme bis zum Abschluss eines Tickets und häufig ohne direkte menschliche Überprüfung oder Genehmigung.

Laut Shield löst ihre Forge-Plattform aktuell etwa die Hälfte aller bearbeitbaren Helpdesk-Tickets im eigenen MSP-Netzwerk, wobei 92 % dieser Fälle ohne Technikeraufwand oder explizite menschliche Freigabe abgeschlossen werden. Bei vergleichbaren Aufgaben gibt Shield an, dass Forge Tickets 25-mal schneller abwickelt als Techniker, mit einer mittleren Lösungszeit von 16 Minuten. Microsofts neuestes Copilot-Update führt Autopilot ein: souveräne, rollenspezifische KI-Agenten mit eigener Benutzeridentität, E-Mail-Konto und Stellen im Organigramm, wodurch die Grenze zwischen Personalergänzung und -ersatz weiter verschwimmt.

Diese technischen Entwicklungen werden von Hinweisen auf Kompetenzverlust bei Technikern und Wissensarbeitern begleitet, wie eine IBM-Umfrage unter mehr als 10.000 HR-Leitern und Mitarbeitern belegt. 71 % der befragten HR-Executives sehen die Fähigkeit, KI-Ergebnisse zu überwachen, zu validieren und zu übersteuern, als essenzielle Zukunftskompetenz an; nur 38 % der Mitarbeitenden stimmen dem zu, während 60 % einräumen, dass KI das kritische Denken untergräbt. Zudem behandelt die Episode dokumentierte operationelle Risiken bei OpenAI, wo menschlichen Prüfern ausdrücklich untersagt ist, KI-basierte Tools zur Überprüfung von KI-Ergebnissen einzusetzen, was den weiterhin erforderlichen „Human-in-the-Loop“-Ansatz trotz zunehmender Automatisierung unterstreicht.

Für MSPs ergeben sich daraus praktische Konsequenzen: Es sind neue Governance-Maßnahmen und Kennzahlen zur Kompetenzüberwachung erforderlich. Der Podcast schlägt ein pragmatisches Protokoll vor: regelmäßige Belastungstests, um die Fähigkeit der Techniker zu messen, falsche oder irreführende KI-Ausgaben zu erkennen. Diese Tests ergeben eine eigene „Fehlleitungsakzeptanzrate“, die einen kritischen Datenpunkt liefert, der in aktuellen Anbieter-Dashboards fehlt. Die Analyse legt nahe, dass reine Durchsatzstatistiken ohne solche Begleitmessungen wachsende Abhängigkeitsrisiken, Kompetenzverlust und nicht erkannte Exponierungen verschleiern können, während KI einen steigenden Anteil der Supportarbeit übernimmt.