Aus der Nähe
Von KI erstellte Fehlermeldungen zwingen Google dazu, Zahlungen für Open-Source-Funde zu stoppen
Google hat sein Open Source Software Vulnerability Rewards Program ab dem 1. Oktober pausiert, nachdem es einen deutlichen Anstieg ungültiger, von KI generierter Bug-Meldungen beschrieben hatte, und erklärte, es werde die Teilnehmenden im ersten Quartal 2027 informieren.
Diese Pause ist auch über Google hinaus wichtig, weil ein Bug-Bounty ein bezahlter Kanal für externe Forschende ist, um Sicherheitslücken zu melden, sodass eine Flut von KI-Ausgaben mit geringem Wert nun einen Weg geschlossen hat, den Open-Source-Maintainer und Sicherheitsforschende nutzen konnten. Das deutet auf ein konkreteres KI-Sicherheitsproblem hin als schädlicher Text für sich allein: Generative Systeme erzeugen offenbar genug plausibel wirkende, aber nutzlose Sicherheitsarbeit, um eine reale operative Kontrolle zu blockieren. Es deutet zudem auf eine breitere Veränderung für alle hin, die KI in Sicherheits- oder Melde-Workflows einsetzen: Die Frage ist nicht mehr nur, ob ein Modell einen Fund erzeugen kann, sondern ob das empfangende System maschinell erstellte Eingaben filtern, verifizieren und dafür Mittel einplanen kann, ohne daran zu ersticken.