Anthropic-Chef Dario Amodei fordert gezielte Drosselung des KI-Fortschritts

Die Debatte um das Entwicklungstempo an der technologischen Grenze der Künstlichen Intelligenz erreicht die Führungsebene der führenden Labore. In einem Beitrag mit dem Titel We Must Pace the Frontier fordert Anthropic-Chef Dario Amodei eine gezielte Verlangsamung bei der Steigerung von Modellfähigkeiten. Als Gründe nennt er die zuletzt drastisch beschleunigten Fortschritte, insbesondere bei der Fähigkeit von KI-Systemen, künftige Generationen selbst weiterzuentwickeln, sowie zurückliegende Sicherheitsvorfälle wie den Hack zwischen OpenAI und HuggingFace.

Dem Vorstoß ging eine interne Zuspitzung voraus: Am 9. September 2026 trat der Forscher Jacob Coxon bei Anthropic zurück und warnte öffentlich davor, dass führende Labore mit menschlichem Leben spielten.

Externe Prüfer und koordinierte Standards

Amodei skizziert drei konkrete Schritte, um das Tempo an der technologischen Spitze zu regulieren. Als erste Maßnahme verpflichtet sich Anthropic einseitig dazu, externe Evaluatoren von Drittorganisationen wie METR direkt im Unternehmen einzubinden. Diese Prüfer sollen mit Firmenausweisen, Laptops und ähnlichen Zugriffsrechten wie interne Risikoteams ausgestattet werden, um Sicherheitszusagen und gemeldete Vorfälle unabhängig zu kontrollieren.

Darüber hinaus fordert Amodei eine Koordination der führenden Labore in demokratischen Staaten über gemeinsame Sicherheitsstandards und Tempobegrenzungen. Um dies kartellrechtlich abzusichern, regt er eine eng gefasste Freistellung durch die US-Regierung für sicherheitsbezogene Absprachen an. Ergänzend plädiert er für globale Absprachen, etwa mit China, um klar definierte Gefahren wie den Einsatz von KI bei der Entwicklung biologischer Waffen zu untersagen. Mögliche Nachteile im Wettbewerb mit China sollen durch Exportbeschränkungen für Halbleiter und Maßnahmen gegen Modelldestillation abgefedert werden.

Reaktionen aus der Branche folgten umgehend: OpenAI-Chef Sam Altman erklärte, er stimme Amodeis Aufruf zu und beabsichtige, ebenfalls externe Prüfer einzubinden. Auch SpaceX-Chef Elon Musk befürwortete den Vorstoß.

Zweifel an Kausalketten und Warnung vor Marktverzerrung

Trotz des Zuspruchs aus der Branche stößt der Vorstoß auf deutliche Kritik. Der Journalist und Autor Brian Merchant bemängelt, dass es weiterhin an einer nachvollziehbaren Kausalkette fehle, wie rekursiv lernende KI-Modelle tatsächlich in existenzielle Bedrohungen für die gesamte Menschheit umschlagen sollen.

Zudem warnen Merchant und weitere Beobachter vor einer regulatorischen Vereinnahmung: Wenn staatliche Auflagen oder koordinierte Verlangsamungen den Markt regulieren, spiele dies vor allem den etablierten Spitzenreitern wie Anthropic und OpenAI in die Hände. Kleinere Wettbewerber oder künftige Marktteilnehmer könnten durch bürokratische Vorgaben ausgebremst werden, während bestehende Labore ihre Marktposition absichern.