Tencent-KI-Chef warnt vor Biowaffen, setzt aber auf offene Modelle

Ausgangslage

Vinces Yao Shunyu, KI-Chef von Tencent, warnt vor den Gefahren von KI-entwickelten Biowaffen. Er sieht sowohl offene als auch geschlossene Modelle als unzureichend, um dieses Problem allein zu lösen. Yao betont die Notwendigkeit eines Mittelwegs, der sowohl die Vorteile offener als auch geschlossener Systeme nutzt.

Yao Shunyu betont, dass die Entwicklung von KI-Biowaffen eine reale Bedrohung darstellt. Er verweist darauf, dass weder vollständig offene noch vollständig geschlossene Modelle dieses Problem allein lösen können. Die Herausforderung besteht darin, eine Balance zu finden, die sowohl die Innovationskraft als auch die Sicherheit gewährleistet.

Hintergrund

Der Streit um offene und geschlossene KI-Modelle ist komplex. Yao argumentiert, dass offene Modelle es ermöglichen, die Technologie auch zur Verteidigung einzusetzen. Allerdings sind Angriffs- und Verteidigungsfähigkeiten in der Biologie schwerer zu trennen als in der Cybersicherheit. Ein Beispiel dafür ist ein Hacking-Vorfall bei Hugging Face, bei dem offene Modelle wie GLM-5.2 zur Analyse von Angriffsbefehlen genutzt wurden, während geschlossene Modelle wie Claude von Anthropic dies verweigerten.

Ein zentrales Problem bei offenen Modellen ist die sogenannte Abliteration, bei der Schutzmechanismen gezielt entfernt werden können. Yao erwähnt, dass Tausende solcher Varianten auf Plattformen wie Hugging Face verfügbar sind. Dies zeigt, wie anfällig offene Modelle für Missbrauch sein können. Gleichzeitig bieten sie jedoch die Möglichkeit, die Technologie auch zur Verteidigung einzusetzen.

Was das bedeutet

Für die KI-Branche bedeutet dies, dass sowohl offene als auch geschlossene Modelle ihre Grenzen haben. Yao betont, dass die ganze Branche vorsichtig sein muss. Der Abstand zwischen chinesischen und US-Modellen ist nicht gross. Unternehmen, die KI-Modelle entwickeln oder nutzen, müssen sich der Risiken bewusst sein und entsprechende Sicherheitsmassnahmen ergreifen.

Ausblick

Tencent plant, sein neues Modell Hy4 als Open-Weight-Modell zu veröffentlichen. Dabei werden gefährliches Hacking-Wissen direkt aus den Trainingsdaten gefiltert. Dies könnte ein neuer Ansatz sein, um die Sicherheit offener Modelle zu erhöhen. Allerdings bleibt abzuwarten, ob dieser Ansatz auch in der Praxis erfolgreich ist.