Hohe Fluktuation bei Konnektoren und verborgene Weitergaben machen KI-Agenten schwerer vertrauenswürdig

Fakten 20. Juli 2026 · Einschätzung 20. Juli 2026

PromptArmor sagte, seine Analyse von 2'517 Konnektoren für ChatGPT und Claude habe ergeben, dass sich 37 % davon innerhalb von sechs Wochen verändert hätten, wobei 1'686 neue Tools hinzugekommen seien und mehr als 1'100 Tool-Beschreibungen umgeschrieben worden seien. Das Unternehmen berichtete zudem, dass viele Konnektoren Nutzerdaten an zusätzliche KI-Dienste weitergaben.

Das scheint das Problem bei generativer KI vom Modellverhalten auf die Schicht um das Modell herum zu verlagern. Wenn sich Konnektoren so schnell verändern und Datenflüsse ohne klaren Hinweis ausweiten können, dürfte die praktische Einheit, die ein Unternehmen steuern muss, die gesamte Tool-Kette sein und nicht nur das Modell, das es gewählt hat.

Ein separates akademisches Experiment ergab, dass Menschen, die bei Fragen zu Filmdetails Ratschläge eines grossen Sprachmodells nutzten, deutlich seltener "Ich weiss es nicht" sagten und weniger genau waren als Teilnehmende, die ohne diesen Rat antworteten. Das deutet darauf hin, dass das Risiko nicht nur darin besteht, dass KI-Antworten falsch sein können, sondern auch darin, dass sie Nutzer weniger bereit machen könnten, Unsicherheit zu äussern, während sie falsch liegen.

Zusammengenommen dürften diese Berichte dazu führen, dass Einführung weniger wie eine einmalige Softwareentscheidung und mehr wie ein fortlaufendes Kontrollproblem aussieht. Für Microsoft und alle anderen, die KI in Arbeitswerkzeugen verkaufen, würde das bedeuten, dass Zuverlässigkeit nicht nur von der Modellqualität abhängt, sondern auch davon, wie klar das umgebende System zeigt, wohin Daten gehen und wann Zuversicht unangebracht ist.