Rubrik IT / Verwaltung / Security

SAS Studie: Behörden vertrauen KI weniger als die freie Wirtschaft

29.09.2026 – Lesezeit ca. 5 Minuten 81

Behörden vertrauen KI im Branchenvergleich am wenigsten. Dies belegt eine aktuelle globale Studie, die SAS, einer der weltweit führenden Anbieter von Lösungen für Daten und künstliche Intelligenz (KI), jetzt veröffentlicht hat. Der zweiten Auflage des „Data and AI Impact Report: The New Economics of Trust“ liegen Zahlen zugrunde, die das Analystenhaus IDC erhoben hat. Demnach erreichen Behörden den niedrigsten Gesamtwert beim in fünf Dimensionen gemessenen Trustworthiness-Index: Dieser liegt bei 55,5 Punkten (von insgesamt 100), während andere Branchen zwischen 63,2 Punkten (Versicherungen) und 64,8 Punkten (Life Sciences) aufweisen. Zudem sind 54 Prozent der Behörden beim KI-Einsatz noch in der Experimentier- oder Pilotphase – mehr als jede andere befragte Branche. Und nur 12 Prozent haben eine optimierte Dateninfrastruktur, einer der niedrigsten Werte in der Studie.

IDC stuft die Unternehmen in Vorreiter („Leader“ mit einem Trustworthiness-Index von mindestens 80 Punkten) und Nachzügler („Laggard“ mit weniger als 40 Punkten) ein und stellt fest: Fast zwei Drittel der Nachzügler (59 Prozent) benötigen beim KI-Einsatz noch vollumfängliche menschliche Kontrolle. Im Gegensatz zu anderen Branchen gehen bei der öffentlichen Verwaltung die Etablierung von verantwortungsvoller KI sowie die generelle KI-Implementierung und -Adaption ansatzweise im gleichen Tempo voran. 86 Prozent der Behörden erhöhen ihre Investition in Trustworthy AI und 57 Prozent erwarten eine Steigerung ihrer Ausgaben für die KI-Implementierung um bis zu 20 Prozent im kommenden Jahr.

Ähnlich wie bei den branchenübergreifenden Ergebnissen empfinden Banken die Faktoren Transparenz und Erklärbarkeit als geringste Hürde beim KI-Einsatz (28 Prozent nennen diese, bei den Vorreitern sind es jedoch 41 Prozent). Allerdings ist die fehlende Herleitung von KI-Ergebnissen der Hauptgrund, warum Mitarbeitende diese verwerfen (35 Prozent). Mit Abstand das größte Hindernis für Trustworthy AI ist das Thema Datenschutz, das 54 Prozent der Befragten nennen. Die insgesamt große Zurückhaltung ist insofern nicht verwunderlich, als sich Behörden besonderem Druck in sensiblen Bereichen wie Nutzung von Bürgerdaten, Compliance und öffentliche Rechenschaftspflicht gegenübersehen. Schließlich wirken sich Entscheidungen oftmals direkt auf das Leben der Bürger aus – sei es in Form von Sozialleistungen, öffentlicher Sicherheit, Besteuerung oder Regulatorik.

Branchenübergreifende Erkenntnisse

Wenn ein Unternehmen Maßnahmen umsetzt, die die Vertrauenswürdigkeit von KI fördern, steigt die Wahrscheinlichkeit, dass ein KI-Projekt profitabel ist, um das 15-Fache. Und sie verschaffen sich signifikante Wettbewerbsvorteile: Organisationen mit starker Governance, Datenqualität und Auditierbarkeit berichten einen mindestens 100 Prozent höheren ROI aus ihren KI-Implementierungen als diejenigen, die in Sachen Trustworthy AI hinterherhinken.

Die wichtigsten Ergebnisse:

• Organisationen, die in Trustworthy AI investieren, erhöhen damit ihre Chancen auf einen starken ROI für ihre KI-Projekte um den Faktor 15 (62 Prozent gegenüber 4 Prozent).
• 85 Prozent der „Leader“ erhöhen ihre Investition in vertrauenswürdige KI um mehr als zehn Prozent in diesem Jahr. Damit vergrößern sie aktiv ihren Vorsprung gegenüber Unternehmen, die dies nicht tun.

„Wenn KI funktioniert, ist sie unglaublich wirkungsvoll“, erklärt Bryan Harris, CTO von SAS. „Allerdings können selbst die besten Agenten bei komplexen Aufgaben Fehlerquoten von mehr als 25 Prozent haben – und das ist inakzeptabel bei Entscheidungen, bei denen viel auf dem Spiel steht. Um Präzision und Wiederholbarkeit sicherzustellen, müssen Organisationen Fachwissen in agentische Workflows einbauen sowie Governance und Kontrolle in den Händen von Mitarbeitenden belassen. Diejenigen, die darin erfolgreich sind, schließen die Vertrauenslücke und ziehen einen echten Wettbewerbsvorteil aus KI.“

Intransparente KI wird zum echten Geschäftsproblem

Die Studie zeigt auch, dass Mitarbeiter häufig Bedenken haben, sich auf Systeme zu verlassen, die nicht sicher korrekte Ergebnisse liefern oder erklären können, wie die KI zu der finalen Entscheidung kommt. Je autonomer KI eingesetzt wird, desto schwerer wiegt diese Herausforderung, und Erklärbarkeit wird zum kritischen Erfolgsfaktor.

Die Studie deckt zudem eine der wichtigsten Hürden für die erfolgreiche Akzeptanz von KI auf: Das mangelnde Vertrauen kann Mitarbeitende dazu bringen, sich über KI-basierte Entscheidungen hinwegzusetzen und manuelle Korrekturen vorzunehmen. Dadurch verfestigt sich das Defizit an vertrauenswürdiger KI noch, und Unternehmen verlieren Zeit, Produktivität und Profitabilität.

Die wichtigsten Ergebnisse:

• Rund 97 Prozent der Anwender verwerfen KI-generierte Empfehlungen zumindest manchmal.
• Der Hauptgrund, KI-Ergebnisse zu ignorieren, auch wenn diese als korrekt eingeschätzt werden, ist die nicht nachvollziehbare Herleitung der Ergebnisse (34,5 Prozent).
• Generative AI (ChatGPT, Gemini, Claude etc.) genießt mehr Vertrauen (76 Prozent) als KI-Agenten (66 Prozent), was darauf hinweist, dass Bedenken mit wachsender Autonomie von KI-Systemen zunehmen.

Schwache Datengrundlage führt zu Zeit- und Geldverlust

Die meisten Unternehmen implementieren KI auf mangelhaften oder überholten Daten und Infrastrukturen. Das Fehlen einer soliden Datenbasis, die die unbedingt erforderliche Transparenz und Erklärbarkeit unterstützt, verhindert die effektive Steuerung von KI und damit die Wertschöpfung daraus.

Die wichtigsten Ergebnisse:

• Nicht einmal jedes fünfte Unternehmen (17,5 Prozent) hat seine Dateninfrastruktur umfassend optimiert, sodass diese den Anforderungen von KI-Agenten entspricht.
• Organisationen mit optimierter Datengrundlage haben eine vier Mal höhere Aussicht auf einen starken ROI aus KI-Projekten.

---

Zur Studie

Für den Report wurden weltweit rund 2.700 Entscheider in 28 Ländern befragt, die im Unternehmen mit Daten- und KI-Initiativen zu tun haben. Jede Organisation wurde anhand von fünf Kriterien bezüglich Trustworthy AI bewertet: Datenqualität und Governance, Model Governance und Kontrolle, Erklärbarkeit und Fairness, Richtlinien für verantwortungsvolle KI, Auditierbarkeit und Verantwortlichkeit.

Weitere Artikel in dieser Rubrik