Öffentliche Auftraggeber sollten agentische KI-Methoden prüfen, nicht nur das Markenimage der Anbieter
Käufer von agentischer KI für Regierungsdienste stehen vor einer Datenlücke: Sie müssen vergleichen, wie Systeme funktionieren und welche Ergebnisse sie liefern…
Agentische KI im öffentlichen Sektor gewinnt an Aufmerksamkeit, da Regierungen überlegen, wie diese Systeme über Marketingbehauptungen hinaus bewertet werden können.
Definition der Technologie
Elsewhen beschreibt agentische KI als „organisatorische Arbeitsabläufe, Agenten, die im Hintergrund agieren, um Aufgaben zu orchestrieren, Systeme zu koordinieren und komplexe operative Arbeiten auszuführen, die früher Stunden manueller Arbeit erforderten". Der Bericht betont, dass die Technologie Verwaltungsangestellte entlasten kann, damit sie sich auf Urteilsvermögen, Empathie und Strategie konzentrieren, statt auf routinemäßige Verarbeitung. Diese Darstellung verschiebt die Diskussion von persönlichen Assistenten, wie E‑Mail‑Zusammenfassern, hin zu groß angelegter Automatisierung öffentlicher Dienste.
Regulierungsbehörden kartieren das Risikolandschaft
Das UK Information Commissioner's Office (ICO) skizziert die datenschutzrechtlichen Implikationen beim Einsatz von agentischer KI. In seinem Tech Futures‑Papier stellt das ICO fest, dass „das Verständnis ihrer Fähigkeiten und der damit verbundenen Risiken wesentlich ist" und hebt vier Szenarien für die Einführung in den nächsten zwei bis fünf Jahren hervor. Während der Fokus auf Datenschutz und Sicherheit liegt, signalisiert das Dokument zudem, dass Organisationen die technische Leistung und Compliance vor einer Beschaffung beurteilen müssen.
Gleichzeitig meldet ReedSmith einen Anstieg regulatorischer Aktivitäten. Das Unternehmen weist darauf hin, dass die Competition and Markets Authority (CMA) am 9 März 2026 ein Forschungspapier veröffentlicht hat, das untersucht, wie agentische KI Verbraucher beeinflussen könnte und wie Händler Risiken mindern sollten. Die Analyse der CMA warnt vor „potenziellen Bußgeldern von bis zu 10 % des globalen Jahresumsatzes" bei Verstößen und unterstreicht, dass das bestehende Verbraucherschutzrecht unabhängig davon gilt, ob das Verhalten von einem Menschen oder einem autonomen KI‑System ausgeführt wird.
Die Beschaffungslücke
Trotz des wachsenden politischen Fokus bieten keine der öffentlich zugänglichen Quellen ein konkretes Rahmenwerk für öffentliche Auftraggeber, um KI‑Methoden und Ergebnisse zu vergleichen. Das Kurzpapier der Kommission stellt fest, dass „Käufer von agentischer KI im öffentlichen Sektor Methode und Ergebnisse vergleichen müssen, nicht nur den Namen auf der Broschüre", doch das Forschungspaket selbst erkennt an, dass diese Behauptung in den zitierten Dokumenten noch nicht durch spezifische Evidenz belegt ist.
Dieses Fehlen von Leitlinien schafft ein praktisches Dilemma. Beschaffungsteams stützen sich typischerweise auf vom Anbieter bereitgestellte Spezifikationen, Pilot‑Ergebnisse und Kosten‑Nutzen‑Analysen. Ohne unabhängige Benchmarks oder standardisierte Leistungskennzahlen riskieren Käufer, Lösungen aufgrund des Markenrufs statt nach nachweislicher Wirksamkeit auszuwählen.
Was Käufer jetzt tun können
Auf Basis der derzeitigen Evidenzbasis können öffentliche Auftraggeber drei sofortige Schritte unternehmen:
- Funktionale Anforderungen kartieren. Identifizieren Sie die genauen Arbeitsschritte, die ein agentisches System automatisieren soll, zum Beispiel die Bearbeitung von Asylanträgen oder die Verwaltung von Krankenhaus‑Entlassungszusammenfassungen. Dies schafft ein konkretes Kriterienset, anhand dessen die Aussagen jedes Anbieters gemessen werden können.
- Transparente Pilotdaten verlangen. Fordern Sie Anbieter auf, Basisleistungszahlen zu teilen, etwa die Anzahl der pro Stunde verarbeiteten Datensätze, Fehlerraten oder die im Vergleich zur manuellen Bearbeitung eingesparte Zeit. Der Elsewhen‑Auszug nennt „einhundert Planungsdatensätze pro Tag gegenüber dem üblichen Durchschnitt von fünf", was die Art quantitativer Aussagen illustriert, die unabhängig verifiziert werden sollten.
- Regulierungsbehörden frühzeitig einbinden. Nutzen Sie die Datenschutz‑Leitlinien des ICO und das Verbraucher‑Risiko‑Framework der CMA als Ausgangspunkt für vertragliche Klauseln zu Datenhandhabung, Prüfungsrechten und Compliance‑Berichterstattung.
Diese Maßnahmen ersetzen keine sektorweite Benchmark‑Studie, helfen jedoch, die Informationslücke zu schließen, während das regulatorische Ökosystem nachholt.
Ausblick
Sowohl das ICO als auch ReedSmith gehen davon aus, dass in den nächsten zwei bis fünf Jahren „intensive Prüfungen von Innovatoren, Technologie‑Adoptierenden und Regulierungsbehörden weltweit" stattfinden werden. Mit zunehmender Reife der Technologie können wir detailliertere Beschaffungsrichtlinien von Institutionen wie der Europäischen Kommission oder nationalen Digitalministerien erwarten. Bis dahin bleibt die Verantwortung bei den einzelnen öffentlichen Auftraggebern, rigorose Evaluationsprozesse zu etablieren.
Für einen breiteren Überblick darüber, wie aufkommende Technologien mit der öffentlichen Finanzwirtschaft verknüpft sind, siehe unsere aktuelle Analyse von Deutschlands Haushalt 2027 Deutschlands Haushalt 2027 weist €109.7 bn für die Verteidigung aus und das bevorstehende Krypto‑Steuerregime Deutschland führt ab 2027 eine pauschale Steuer von 25 % auf Krypto‑Gewinne ein.
Zusammenfassend lässt sich sagen, dass trotz des wachsenden Hypes um agentische KI die öffentliche Beschaffung nach wie vor die harten Daten fehlt, um über rein broschürenbasierte Entscheidungen hinauszugehen. Käufer, die proaktiv methodenbezogene Evidenz verlangen und sich an den aufkommenden regulatorischen Leitlinien orientieren, werden besser positioniert sein, die versprochenen Effizienzgewinne zu realisieren, ohne ihre Organisationen unvorhergesehenen Risiken auszusetzen.