Eine zentrale strukturelle Entwicklung ist die Verlagerung von Prüfungs-, Nachbesserungs- und Risikomanagementverantwortung von KI-Herstellern auf nachgelagerte Akteure wie Managed Service Provider und deren Kunden. Unternehmen wie OpenAI und Anthropic veröffentlichen hohe Mengen KI-generierter Ergebnisse ohne umfassende interne Prüfung und lagern somit Überprüfungs- und Incident-Response-Aufwände an Service Provider und Endkunden aus.
OpenAI publizierte 722 KI-generierte mathematische Manuskripte, von denen nach eigenen Angaben viele keine formale Verifikation besitzen und laut The Verge nur ca. 40 % maschinenlesbare Beweise enthalten. Forscher befürchten, dass die Überprüfung Jahre dauern kann. Ähnlich hat Anthropics OSS-Scanner über 6.000 Schwachstellenberichte erzeugt, aber nur rund 10 % wurden upstream gepatcht, der Großteil der Nacharbeit bleibt bei den Projektverantwortlichen.
Diese Kostenverschiebung betrifft sowohl technische Communities als auch Service-Provider. Das Linux-Kernel-Projekt sieht sich laut Linus Torvalds einer “unhandhabbaren” Flut doppelter KI-Bug-Reports ausgesetzt, ein Großteil sei vergeudete Arbeit. MSPs berichten von Kunden, die KI-Assistenten wie ChatGPT mit geteilten Dateien verbinden—was Daten exponiert und zusätzlichen Aufwand für die Prüfung von Berechtigungen bringt, ohne dass Hersteller Verantwortung übernehmen.
Für Managed Service Provider steigen damit der operative Aufwand und der Margendruck. Wer diese Zusatzarbeiten nicht messbar macht, riskiert schleichenden Profitabilitätsverlust, während Kunden die realen Auswirkungen ihrer KI-Nutzung nicht erkennen. Explizite Quantifizierung ermöglicht klarere Absprachen und schützt davor, die kostenlose Prüfungsinstanz für Hersteller zu werden.