KI-Forschung beschleunigt sich deutlich: METR warnt vor Risiken

Ausgangslage

METR erhielt für elf Wochen Zugang zu den internen Forschungsdaten von Anthropic. Das Ergebnis zeigt: Die Verbesserungsrate der Modelle hat sich ungefähr verdoppelt. Etwa 80 Prozent der Beschleunigung lassen sich damit erklären, dass KI in der eigenen Forschung genutzt wird. Allerdings hat Anthropic die aussagekräftigsten Belege geschwärzt, was die Öffentlichkeit stärker auf METRs Urteil angewiesen macht, als ideal wäre.

METR führte eine einmalige Prüfung durch: Elf Wochen lang hatten 2,5 Vollzeitkräfte laut eigener Aussage Zugriff auf Benchmark-Ergebnisse von unveröffentlichten Modellen, Trainingsmetriken, Mitarbeiterbefragungen und interne Analysen. Die Organisation nutzte Benchmark-Ergebnisse, Trainingsmetriken, Mitarbeiterumfragen und interne Analysen, um die Entwicklung der KI-Modelle zu analysieren. Die Ergebnisse zeigen, dass die Beschleunigung hauptsächlich auf KI-gestützte Forschung zurückzuführen ist.

Hintergrund

Die Beschleunigung der KI-Entwicklung ist ein zentrales Thema in der Sicherheitsdebatte. Die Organisation untersucht ebenfalls, ob Entwickler von Künstlicher Intelligenz die Herrschaft über ihre Systeme einbüssen könnten. Die Organisation hat nun Einblick in Benchmark-Ergebnisse, die noch nicht veröffentlicht wurden, sowie in Trainingsmetriken, Mitarbeiterumfragen und interne Analysen von Anthropic. Die wichtigsten Belege wurden jedoch geschwärzt, was die Transparenz der Ergebnisse beeinträchtigt.

METR arbeitete aus Sicherheitsgründen auf Anthropic-Geräten und erhielt keinen finanziellen Anreiz vom Unternehmen. Die Organisation interviewte rund 15 Anthropic-Forschende und analysierte interne Analysen und Mitarbeiterumfragen. Die Prüfung war ein separates Projekt mit engerem Zuschnitt als die zuvor angekündigte Zusammenarbeit mit METR.

Was das bedeutet

Die Befürchtung besteht, dass sich eine Rückkopplungsschleife entwickelt, in der Modelle ihre Nachfolger immer rascher optimieren. Dadurch könnten laut METR unvermittelt extreme und riskante Fähigkeiten auftreten. Laut METR könnte dies "plötzlich extreme und riskante Fähigkeiten" entstehen lassen. Anthropic betrachtet eine derartige Beschleunigung in seiner Policy zum verantwortungsvollen Skalieren als einen Risikoindikator. METR weist ebenfalls auf die Ungewissheit der Resultate hin. Die tatsächliche Beschleunigung könnte ebenso 1,3 betragen – oder sogar 3.

Ausblick

METR erkennt ein "beträchtliches Risiko", dass die Beschleunigung im nächsten Jahr noch zunimmt. Die Organisation betont, dass die Öffentlichkeit sich stärker auf ihr Urteil verlassen muss, da die Transparenz über die Belege nicht gegeben ist. Eine weitere deutliche Beschleunigung in den kommenden sechs Monaten könnte die Risikoeinstufung erhöhen.