Sicherheitsforscher verlassen die großen KI-Labore
Innerhalb weniger Tage kündigten mehrere bekannte Sicherheitsforscher bei Anthropic und Google DeepMind und wechselten zu einer unabhängigen Prüforganisation. Kurz darauf schlug Anthropic-Chef Dario Amodei vor, das Tempo der KI-Entwicklung bewusst zu drosseln.
Kündigungen mit öffentlicher Begründung
Am 8. und 9. September 2026 haben mehrere bekannte Forscher aus dem Bereich KI-Sicherheit ihre Arbeitgeber verlassen und das öffentlich begründet. Jacob Coxon verließ Anthropic nach drei Jahren, Joe Benton, Leiter eines Sicherheits-Forschungsteams bei Anthropic, und Josh Engels von Google DeepMind gaben gemeinsam ein Interview. Alle drei wechseln zu METR, einer unabhängigen Organisation, die KI-Modelle vor ihrer Veröffentlichung prüft.
Der Vorschlag des Anthropic-Chefs
Am 12. September veröffentlichte Anthropic-Chef Dario Amodei einen Aufsatz mit dem Titel „We Must Pace the Frontier“. Darin schlägt er drei Stufen vor: unabhängige Prüfer mit weitreichendem Zugang direkt im Unternehmen, freiwillige Sicherheitsstandards zwischen den Laboren und schließlich internationale Abstimmung. Die erste Stufe setzt Anthropic nach eigenen Angaben einseitig um: Externe Prüfer bekommen Zugang zu Büros und Werkzeugen und dürfen veröffentlichen, ohne dass das Unternehmen mitredet.
Eine Zahl, die hängen bleibt
Am 17. September legte Anthropic Messwerte zum eigenen Entwicklungstempo vor. Demnach erledigt Claude inzwischen 26 Prozent der internen Forschungs- und Entwicklungsaufgaben, verglichen mit unter einem Prozent im Februar 2026. Rund sechs Prozent des Rechenaufwands in Forschung und Entwicklung fließen in Sicherheit.
Man muss die Einschätzungen der Beteiligten nicht teilen. Aber es ist bemerkenswert, wenn Leute, die diese Systeme von innen kennen, ihren gut bezahlten Posten aufgeben, um dieselbe Arbeit von außen zu machen. Wer sich mit KI beschäftigt, sollte diese Debatte kennen, unabhängig davon, wo er selbst steht.