«Die Branche hat die Menschen viel zu lange belogen»: Anthropic-Chef Dario Amodei verschärft Forderung nach KI-Bremse

Anthropic-Chef Dario Amodei hat in einem Interview mit der CBS-Sendung «Sunday Morning» seine Warnungen vor künstlicher Intelligenz verschärft und der eigenen Branche vorgeworfen, deren Gefahren zu lange heruntergespielt zu haben. «Ich werde Sie nicht anlügen – es gibt reale Gefahren», sagte der Mitgründer des US-KI-Unternehmens bei dem am Samstag am Anthropic-Hauptsitz in San Francisco geführten Gespräch. Die Branche habe die Menschen «zu lange» darüber getäuscht, dass diese Technologie Risiken berge. Die Entwicklung immer leistungsfähigerer Systeme verlaufe exponentiell und beschleunige sich weiter. Das sei kein Grund zur Panik, aber «ein Warnsignal, dass wir langsamer werden müssen».

Damit verschärft sich eine Debatte, über die die Weltwoche bereits am Wochenende berichtete: Führende amerikanische KI-Unternehmer fordern inzwischen stärkere Kontrollen und verbindliche Regeln für die von ihren eigenen Unternehmen entwickelte Technologie. Amodei hatte eine Verlangsamung bei der Entwicklung der leistungsfähigsten Modelle gefordert; Open-AI-Chef Sam Altman und Space-X-AI-Chef Elon Musk unterstützten den Vorstoss. US-Präsident Donald Trump widerspricht: Für ihn liegt das grössere Risiko darin, dass die USA bremsen und China vorbeizieht. «Wer bei KI gewinnt, gewinnt», erklärte er.

Amodei fordert allerdings keinen Entwicklungsstopp. Anthropic will unabhängigen Prüfern dauerhaft Zugang zu seinen Modellen geben, damit diese kontrollieren können, ob Sicherheitsstandards eingehalten werden. Der Firmenchef unterstützt zudem staatliche Regulierung und hält einen «Kill Switch», mit dem gefährliche Systeme abgeschaltet werden könnten, grundsätzlich für denkbar. Ein vollständiges Verbot lehnt er ab – auch weil andere Staaten die Technologie weiterentwickeln würden. Gerade China bezeichnet Amodei deshalb als «das schwierigste Dilemma»: Bremsten die USA allein, könnte Peking einen strategischen Vorsprung gewinnen. Langfristig bringt er internationale Vereinbarungen zur Begrenzung des Entwicklungstempos nach dem Vorbild früherer Rüstungskontrollabkommen ins Spiel.

Auch Peking reagiert nun ausführlicher auf die Debatte um eine mögliche Verlangsamung und stärkere Regulierung der KI-Entwicklung. Chinas Aussenamtssprecher Guo Jiakun wandte sich am Montag gegen «Narrative von Bedrohung, Konfrontation und bösartigem Wettbewerb». Solche Sichtweisen würden die internationale Zusammenarbeit bei der Regulierung von KI behindern und lägen «in niemandes Interesse». Statt eines technologischen Wettrüstens sollten alle Staaten gemeinsam dafür sorgen, dass KI «offen, inklusiv, für alle von Nutzen und auf das Gute ausgerichtet» entwickelt werde.

Dabei bestreitet Peking die Risiken der Technologie keineswegs. Staats- und Parteichef Xi Jinping hat selbst wiederholt vor ihnen gewarnt. Chinas Staatssicherheitsminister Chen Yixin forderte am Sonntag, «Entwicklung und Sicherheit auszubalancieren», Gesetze und ethische Regeln weiterzuentwickeln und Gefahren stärker einzudämmen, um Bevölkerung und nationale Sicherheit zu schützen. Zugleich warnte er davor, dass ausländische Geheimdienste und andere «feindliche Kräfte» KI einsetzen könnten, und forderte internationale Zusammenarbeit. China verfolgt damit einen ähnlichen Zielkonflikt wie die USA: Die Risiken sollen begrenzt werden, ohne im strategischen Wettbewerb um eine Schlüsseltechnologie an Boden zu verlieren.

Eine gemeinsame Bremse bleibt dennoch schwer vorstellbar. Eine Vereinbarung zwischen den USA und China über die Regulierung der KI-Entwicklung sei «nahezu unmöglich», sagt Chang Jun Yan vom militärwissenschaftlichen Programm der S. Rajaratnam School of International Studies in Singapur. KI gehöre inzwischen zu den zentralen nationalen Sicherheitsinteressen beider Staaten. Deshalb sei eine Zusammenarbeit mit dem Ziel, die Entwicklung langsamer und sicherer zu machen, «sehr, sehr unwahrscheinlich». Damit bleibt vorerst offen, ob die Warnungen der Entwickler das Tempo der KI-Entwicklung tatsächlich bremsen können – oder ob der Wettbewerb zwischen den Grossmächten am Ende stärker wiegt.