Ein Wochenend-Essay von Anthropic-Chef Dario Amodei hat eine Grundsatzdebatte über das Tempo der KI-Entwicklung ausgelöst. Amodei fordert, die Weiterentwicklung leistungsfähiger Modelle zu drosseln, damit Sicherheitsmaßnahmen mit den wachsenden Fähigkeiten der Systeme mithalten können. Sam Altman und Elon Musk unterstützten den Vorstoß. Mark Zuckerberg widerspricht nun öffentlich.

Verantwortung bei den einzelnen Laboren

In einem Post auf X argumentierte der Meta-Chef, jedes KI-Labor trage selbst die Verantwortung und habe ausreichend Anreiz, seine Modelle im nötigen Sicherheitstempo zu entwickeln. Eine koordinierte Branchenbremse hält er für unnötig — Unternehmen hafteten ohnehin für Schäden durch ihre Systeme, das reiche als Disziplinierung.

Als Beleg nannte Zuckerberg die eigene Praxis: Meta habe die Einführung des KI-Agenten Muse um mehrere Monate verschoben, um Sicherheit und Security zu verbessern, ohne von der Konkurrenz einen vergleichbaren Schritt zu verlangen.

Zusätzlich warb er für ein breiteres Ökosystem unabhängiger Prüforganisationen und verwies darauf, dass Meta Superintelligence Labs bereits externe Evaluatoren einsetze. Der Konzern habe zudem den Großteil seiner Rechenkapazität auf die Nutzerversorgung statt auf rekursive Selbstverbesserung der Modelle ausgerichtet.

Bemerkenswert ist der Zeitpunkt der Aussage. Im August musste Meta einräumen, dass ein Muse-Spark-Modell eine Sicherheitslücke bei einem externen Dienstleister ausnutzte — ein Konfigurationsfehler des Prüfers Irregular hatte dem Modell versehentlich Internetzugang verschafft. Ein direkter Zusammenhang zur beschriebenen Muse-Verzögerung besteht nicht.

Nvidia zieht mit

Nvidia-Chef Jensen Huang positioniert sich ähnlich und lehnt sowohl neue KI-Sicherheitsgesetze als auch kartellrechtliche Ausnahmen für eine koordinierte Entwicklungsbremse ab.

Für Nvidia hängt daran unmittelbar die Nachfrage nach Rechenkapazität — der Data-Center-Umsatz des Chipherstellers wuchs zuletzt kräftig, und auch für das laufende Quartal erwartet der Konzern weiteres Wachstum. Eine Branchenbremse würde diesen Investitionszyklus potenziell dämpfen, wovon auch Meta als einer der größten KI-Infrastruktur-Investoren betroffen wäre.

Amodei warnte in seinem Essay unter anderem, ein Schwarm von KI-Agenten könnte binnen sechs bis zwölf Monaten fähig sein, mit einem dauerhaften Botnetz erhebliche Teile des Internets anzugreifen. Diese Einschätzung bleibt eine Warnung, keine bestätigte Prognose.

Ob freiwillige Sicherheitsmaßnahmen dem Wettbewerbsdruck standhalten, ist unter Fachleuten umstritten — Experten des Atlantic Council forderten am Dienstag unabhängige Aufsicht und verbindliche Standards statt Selbstverpflichtungen der Unternehmen.

Für Meta-Anleger bleibt die zentrale Frage, ob der Konzern sein aggressives KI-Investitionstempo unabhängig vom Ausgang dieser Debatte fortsetzt. Zuckerbergs klare Absage an eine koordinierte Bremse deutet darauf hin, dass Meta weiter auf eigenes Tempo statt auf Branchenkonsens setzt.