Anthropic stiftet Aktienanteile und fordert strenge KI-Regulierung

Aktienübertragung

Anthropic ist bereit, fünf Prozent seiner Aktien in einen neuen Public Benefit Fund zu übertragen. Dieser soll als separate Gesellschaft organisiert werden und vollständig im Besitz des Unternehmens bleiben. Die Übertragung steht noch die Zustimmung der Aktionäre aus. Der Wert der übertragenen Aktien soll mit dem Wachstum des Unternehmens steigen: Bei einer Verdopplung des Unternehmenswertes kann der Vorstand weitere zwei Prozent der Aktien hinzufügen.

Zudem gibt es ein Programm, bei dem Anthropic die Aktienspenden der Mitarbeiter matcht. Diese Massnahmen sollen sicherstellen, dass ein erheblicher Teil des Unternehmenswertes der Gesellschaft zugutekommt.

Verwendung der Mittel

Die Mittel des Fonds könnten an gemeinnützige Organisationen oder direkt an bestimmte Bevölkerungsgruppen fliessen. Anthropic nennt als Beispiel die Auswirkungen von KI auf den Arbeitsmarkt. Das Unternehmen hat bereits 200 Millionen Dollar für Forschung zu wirtschaftlichen Zukunftsszenarien bereitgestellt, sieht aber möglicherweise noch mutigere Ansätze als notwendig an. Politische Spenden oder Lobbying sind mit den Mitteln des Fonds nicht erlaubt.

Regulierungsvorschlag

Parallel zur Aktienübertragung lobbiert Anthropic in Washington für ein eigenes KI-Sicherheitsgesetz. Dieses soll nur für Entwickler von Frontier-Modellen gelten, die entweder mehr als 500 Millionen Dollar Umsatz pro Jahr erzielen oder mehr als eine Milliarde Dollar in KI-Forschung investieren. Diese Unternehmen müssten Sicherheitsrahmenwerke und Transparenzberichte veröffentlichen sowie Vorfälle innerhalb von 72 Stunden dem Handelsministerium melden.

Der von Anthropic vorgeschlagene Regulierungsrahmen zielt darauf ab, eine einheitliche Bundesvorschrift zu schaffen, die die Vielzahl der staatlichen Gesetze ersetzt. Der Entwurf sieht auch vor, dass Unternehmen unabhängige Bewertungen ihrer Modelle zulassen müssen, um die Transparenz und Sicherheit zu erhöhen.

Kritik am Entwurf

Kritiker bemängeln, dass das vorgeschlagene Gesetz dem Handelsministerium erst bei hohen Risiken ein Eingreifen ermöglichen würde. Zudem könnten die Compliance-Kosten kleinere Unternehmen benachteiligen. Der Entwurf ist noch nicht offiziell eingereicht worden.

Kritiker argumentieren, dass der vorgeschlagene Regulierungsrahmen zu wenig Schutz bietet, insbesondere wenn es um die Sicherheit und den Missbrauch von KI-Modellen geht. Sie befürchten, dass die hohen Schwellenwerte für das Eingreifen des Handelsministeriums zu spät kommen könnten, um ernsthafte Schäden zu verhindern. Zudem könnte die Konzentration der Regulierungsbefugnis beim Handelsministerium zu einer Machtkonzentration führen, die nicht im öffentlichen Interesse ist.

Einordnung

Anthropic ist ein führendes Unternehmen in der Entwicklung von KI-Modellen. Die geplanten Massnahmen zeigen, dass auch grosse Tech-Unternehmen zunehmend Verantwortung für die Auswirkungen ihrer Technologien übernehmen wollen. Gleichzeitig versuchen sie, Einfluss auf die Regulierung zu nehmen, um ihre eigenen Interessen zu wahren.

Was das für KMU bedeutet

Für Schweizer KMU könnte das vorgeschlagene KI-Sicherheitsgesetz eine Herausforderung darstellen, insbesondere wenn sie in den Bereich der Frontier-Modelle fallen. Die Compliance-Kosten könnten für kleinere Unternehmen eine Belastung darstellen. Gleichzeitig könnten sie von den Mitteln des Public Benefit Funds profitieren, falls diese in Forschung und Entwicklung fliesst.