Weniger als die Hälfte: Warum der Datenzugriff entscheidet, ob du einem KI-Agenten glauben kannst

Eine Studie von MIT und Google Cloud liefert dazu eine Zahl, die man sich merken sollte. KI-Agenten bekommen im Schnitt nur Zugriff auf 45 % der Unternehmensdaten. Weniger als die Hälfte. Der Rest liegt in Systemen, die der Agent nicht sieht, nicht lesen darf oder nicht verarbeiten kann.

Was 45 % in der Praxis bedeuten

Ein Mensch, der eine Analyse baut, merkt normalerweise, wenn ihm etwas fehlt. Er sucht die Zahl, ruft in der Fachabteilung an, schreibt in die Fußnote „Daten für Region Ost nicht verfügbar“. Ein Agent macht das nicht. Er arbeitet mit dem, was er sieht, und formuliert daraus eine vollständige Antwort.

Der Bericht formuliert das deutlich: Ein Agent, der nur einen Bruchteil der relevanten Unternehmensdaten sieht, liefert Zusammenfassungen und Prognosen mit blinden Flecken, die von außen nicht erkennbar sind. Genau das ist der Punkt. Nicht erkennbar. Die Lücke steht nicht im Output. Die Formulierung wird nicht unsicherer, nur weil die Datenbasis dünner ist. Sprachlich ist eine Aussage auf Basis von 30 % der Daten von einer Aussage auf Basis von 90 % nicht zu unterscheiden.

Wer eine solche Aussage vor einem Entscheider vertritt, übernimmt damit auch die Lücke, von der er nichts weiß.

Der Zusammenhang, der die Studie interessant macht

Die Studie unterscheidet Organisationen nach dem Umfang des Datenzugriffs, den ihre Agenten haben. Bei den sogenannten „Data Laggards“ liegt dieser Zugriff bei 30 % oder darunter, bei den „Data Leadern“ bei über 70 %.

Daneben wurde gefragt, ob die Organisationen den Entscheidungen ihrer KI-Agenten als korrekt und relevant vertrauen. Insgesamt tut das nur rund die Hälfte der befragten Organisationen. Bei den Data Leadern sind es 100 %.

Dieser Unterschied ist bemerkenswert, weil er die Vertrauensfrage aus dem Bereich der Einstellung herausholt. Man könnte annehmen, Vertrauen in KI sei eine Frage von Kulturarbeit, von Schulungen, von Gewöhnung. Die Zahlen deuten in eine andere Richtung: Wer seinen Agenten mehr als 70 % der Daten zugänglich macht, vertraut ihnen vollständig. Alle übrigen Organisationen vertrauen ihnen nur zur Hälfte.

Vorsicht bei der Deutung: Die Studie zeigt einen Zusammenhang, keine Kausalkette. Es ist auch nicht auszuschließen, dass Organisationen mit ausgereifter Datenlandschaft ohnehin sorgfältiger arbeiten und deshalb sowohl mehr Zugriff geben als auch mehr Vertrauen entwickeln. Aber die Richtung ist eindeutig, und sie ist für die eigene Praxis brauchbar: Das Misstrauen der Hälfte der Organisationen gegenüber ihren Agenten ist offenbar kein Bauchgefühl. Es ist eine angemessene Reaktion auf eine dünne Datenbasis.

Warum sich das nicht schnell auflöst

Man könnte hoffen, dass sich dieser Flaschenhals von selbst weitet, sobald die Systeme besser werden. Die Studie deutet auf das Gegenteil hin. 55 % der Befragten geben an, dass ihre bestehenden Legacy-Datensysteme die Skalierung von Agenten-KI im Unternehmen verhindern.

Das ist keine Frage des Modells. Das ist eine Frage von Schnittstellen, Berechtigungen, historischen Datenbanken und gewachsenen Strukturen, die niemand für einen KI-Agenten gebaut hat. Solche Dinge löst man nicht in einem Quartal.

Gleichzeitig steigt das Tempo. 69 % der befragten Organisationen planen, innerhalb von zwei Jahren KI-Agenten breit einzusetzen, obwohl aktuell nur wenige das tun. Die Wahrscheinlichkeit ist also hoch, dass in den nächsten zwei Jahren viele Agenten in Betrieb gehen, deren Datengrundlage noch nicht geklärt ist. Und dass die Ergebnisse dieser Agenten in Berichte, Präsentationen und Entscheidungsvorlagen wandern.

Zur Einordnung der Quelle: Die Studie stützt sich auf die Befragung von 300 Führungskräften und zusätzlich auf Interviews mit Verantwortlichen von HCA Healthcare, Shopify und Deutsche Telekom zum Umgang mit Datengrundlagen für Agenten-KI. Das sind große Organisationen mit eigenen Datenabteilungen. Die Perspektive ist also die von Konzern-IT, nicht die eines Controllings mit vier Leuten und einem gewachsenen Excel-Berichtswesen. Die Zahlen lassen sich nicht direkt übertragen. Der Mechanismus dahinter schon: Die Qualität einer KI-Aussage hängt daran, welchen Teil der Wirklichkeit das System überhaupt gesehen hat.

Was du daraus für deine eigene Arbeit mitnehmen kannst

Die Studie richtet sich an Leute, die Datenlandschaften verantworten. Du sitzt vermutlich auf der anderen Seite: Du bekommst das Ergebnis und musst damit arbeiten.

Daraus folgt eine Frage, die vor jede Weiterverwendung einer KI-Auswertung gehört: Welchen Ausschnitt der Daten hat das System gesehen?

Die Antwort darauf ist oft unbequem, weil sie meist nicht dokumentiert ist. Aber schon die Frage verändert, wie man mit dem Ergebnis umgeht. Sie führt zu Folgefragen, die sich beantworten lassen:

• Welche Systeme sind angebunden, welche nicht?
• Bis zu welchem Stand sind die Daten aktuell?
• Fehlen ganze Bereiche, etwa eine Region, eine Tochtergesellschaft, ein Vertriebskanal?
• Gibt es eine Quelle, in der die Aussage nachprüfbar ist?

Wenn du diese Fragen nicht beantworten kannst, ist die Aussage nicht falsch. Sie ist nur nicht vertretbar. Das ist ein Unterschied, und er entscheidet darüber, was du vor einem Entscheider sagst und was du besser als Hinweis kennzeichnest.

Vertrauen ist eine Eigenschaft der Datenbasis, nicht der Formulierung

Agenten liefern flüssigen Text. Sie liefern ihn auch dann, wenn ihre Grundlage lückenhaft ist. Der Text verrät die Lücke nicht, und genau deshalb verlagert sich die Arbeit: weg vom Erstellen der Auswertung, hin zum Beurteilen des Ergebnisses.

Die Bedienschicht, also welche Funktion wo liegt und welches Diagramm wie entsteht, übernimmt die KI zuerst. Was bleibt, ist die Fähigkeit zu prüfen, ob eine Aussage über Daten trägt und ob sie sich vor einem Entscheider halten lässt. Diese Fähigkeit wird durch die Zahlen der Studie nicht kleiner, sondern größer: Wenn die Hälfte der Organisationen den eigenen Agenten nur zur Hälfte vertraut, dann liegt die Beurteilung derzeit bei den Menschen, die mit den Ergebnissen arbeiten.

Genau das ist der Schwerpunkt meines Kurses zu Data Storytelling mit KI auf storytellingmitdaten.com: Du lernst dort, eine KI-generierte Aussage über Daten einzuschätzen und zu entscheiden, ob du sie vertreten kannst. Geübt wird ausschließlich in Excel. Wenn du regelmäßig Einordnungen zu KI und Datenvertrauen lesen willst, findest du sie in meinem Newsletter.