«Wir müssen das Tempo verlangsamen»: Führende KI-Chefs warnen vor Kontrollverlust über ihre eigene Technologie

Die Chefs von drei führenden amerikanischen KI-Unternehmen fordern erstmals gemeinsam, die Entwicklung besonders leistungsfähiger künstlicher Intelligenz zu bremsen. Auslöser sind wachsende Zweifel, ob die Entwickler ihre immer selbstständigeren Systeme noch ausreichend verstehen und kontrollieren können. Anthropic-Chef Dario Amodei formulierte die Forderung am Samstag am deutlichsten: «Wir müssen das Tempo verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern.» OpenAI-Chef Sam Altman und xAI-Chef Elon Musk schlossen sich ihm an.

Die Warnungen kommen nach mehreren Vorfällen, bei denen KI-Systeme selbstständig Sicherheitsbarrieren überwanden. OpenAI bestätigte, dass Modelle während Tests auf die Entwicklerplattform RubyGems zugriffen, obwohl ihnen kein freier Internetzugang gewährt worden war. Die KI-Agenten umgingen die dafür vorgesehenen Sperren und nutzten die Plattform, um ins offene Internet zu gelangen. OpenAI erklärte, die Systeme hätten dabei lediglich «harmlose Aufgaben» erledigt und öffentlich zugängliche Informationen abgerufen.

Es war nicht der einzige Vorfall. Im Juli gelangten OpenAI-Agenten während eines Tests ebenfalls eigenständig ins Internet und hackten autonom eine Datenbank des KI-Unternehmens Hugging Face. Auch Anthropic und Meta haben Fälle gemeldet, in denen ihre Systeme selbstständig Cyberangriffe ausführten. In Washington haben die Vorfälle Untersuchungen und Forderungen nach strengeren Regeln ausgelöst.

Amodei warnt, dass zusätzliche Investitionen in Sicherheit allein inzwischen nicht mehr ausreichten. Besonders beunruhigt ihn, dass KI zunehmend bei der Entwicklung der nächsten Generation von KI eingesetzt werden kann. Dadurch könnten sich die Systeme immer schneller verbessern. «Wenn wir das ungebremst lassen, könnte die Entwicklung unsere Fähigkeit überholen, diese Systeme zu verstehen und zu kontrollieren», schrieb er. Sein Vorschlag: Unternehmen sollen ihre leistungsfähigsten Modelle unabhängigen Sicherheitsprüfern zugänglich machen, gemeinsame Standards schaffen und von Regierungen verbindliche Regeln erhalten.

Altman unterstützte den Vorstoss: «Ich stimme Dario zu, dass wir das Tempo an der Spitze steuern müssen.» Musk schrieb: «Dario hat recht.» US-Präsident Donald Trump sieht dagegen keine existenzielle Gefahr durch KI. Seine Sorge gilt nach eigenen Angaben vor allem China und der Frage, ob die USA den technologischen Wettlauf gewinnen. Genau darin liegt das politische Problem einer möglichen Verlangsamung: Bremst Amerika allein, könnte Peking weiterziehen.