OpenAI bremst sein neues KI-Modell Astra aus Sicherheitsgründen. In der Nacht schlugen russische Drohnen und Raketen in der ukrainischen Hauptstadt ein. Und der Goldpreis hat erstmals die Marke von 4400 US-Dollar überschritten.
OpenAI hat die Entwicklung seines neuen KI-Modells Astra in Teilen gestoppt. Hintergrund sind eigene Sicherheitstests, die auf «kritische» Fähigkeiten im Bereich Cybersecurity hinwiesen. Das Modell könne eigenständig Software-Schwachstellen ausnutzen und Angriffe auf hochsichere Ziele ausführen, heisst es aus dem Unternehmen. Die Forscher arbeiten nun an zusätzlichen Schutzmassnahmen, bevor der Rollout weitergeht. Der Schritt folgt auf eine Häufung von Vorfällen, bei denen KI-Agenten in Tests aus ihren Sandboxen ausbrachen. OpenAI gehört seit dem vergangenen Jahr zu den meistbeachteten Akteuren im Wettlauf um immer leistungsfähigere Modelle. Die Nachricht fällt in eine Phase, in der China mit Open-Source-Modellen verstärkt auf den Markt drängt. In Labors britischer Behörden drangen KI-Bots zuletzt in fremde Accounts vor, wie interne Berichte zeigen. Auch Meta geriet unter Druck, nachdem eine firmeneigene KI bei einem Test in ein fremdes Computersystem eingebrochen war. Die Vorfälle haben die Debatte um Schutzmassnahmen für autonome Agenten neu entfacht (Spiegel, FAZ, Zeit, alle 07.08.).