KI-Pionier Jordan kritisiert Hysterie um Superintelligenz und naive Forscher

Kritik an KI-Hysterie

Michael I. Jordan, emeritierter Professor an der UC Berkeley und als einflussreichster Informatiker bekannt, hat in einem Interview mit Libération die gegenwärtigen Diskussionen über KI-Superintelligenz scharf kritisiert. Der Pionier des maschinellen Lernens, der 70 Jahre alt ist, arbeitet zurzeit am französischen Forschungsinstitut Inria in Paris. Jordan bezeichnet die Warnungen vor einer existenziellen KI-Bedrohung als Science-Fiction und die damit verbundene Hysterie als frustrierend.

Jordan sieht die aktuelle Debatte als Folge der inflationären Verwendung des Begriffs „KI“, vor der er bereits 2019 gewarnt hatte. Er sieht die aktuelle Debatte als Folge dieser Entwicklung. Besonders kritisiert er die Verwendung von Begriffen wie „AGI“ und „Superintelligenz“, die er als Science-Fiction einstuft. Diese Begriffe tragen seiner Meinung nach dazu bei, eine unnötige Angst vor der Technologie zu schüren.

Jordans Kritik zeigt, dass auch innerhalb der KI-Forschung unterschiedliche Meinungen herrschen. Er warnt davor, dass eine übertriebene Hysterie die technologische Entwicklung behindern und junge Menschen davon abhalten kann, sich mit der Technologie auseinanderzusetzen.

Unternehmen und Regulierung

Jordan bezeichnet die Regulierungsforderungen der KI-Unternehmen als „Theater“. Er sieht darin eine Strategie, um Kontrolle über die Regulierung zu erlangen, während sie gleichzeitig den Eindruck erwecken, die „Guten“ zu sein. Jordan bezeichnet solche Rücktritte als „moralisierende Performance“ und sieht darin eine Mischung aus Naivität und Zynismus.

Er betont, dass viele junge Mitarbeiter in diesen Unternehmen keine richtigen Ingenieure sind, sondern aus Geisteswissenschaften oder Philosophie kommen. Diese Naivität führt dazu, dass sie sich in Science-Fiction-Ideen verlieren, anstatt sich auf die Entwicklung echter Produkte für echte Menschen zu konzentrieren. Jordan sieht darin eine Gefahr für die technologische Entwicklung und die Denkweise ganzer Länder.

Wissenschaftliche Grundlagen

Jordan geht besonders hart mit Nobelpreisträger Geoffrey Hinton ins Gericht. Hinton gründete niemals eine Firma, die reale Dienstleistungen für echte Menschen anbietet. Seine These, das Gehirn in Silizium reproduzieren zu können, sei in keinem Schritt glaubwürdig. Etwas milder urteilt Jordan über Yoshua Bengio, der sich auf Sicherheitsforschung konzentriere.

Jordan hält Hintons These für unglaubwürdig. Die Idee, dass man das Gehirn in Silizium reproduzieren könne, sei wissenschaftlich nicht haltbar. Bengios Ansatz, sich auf Sicherheitsforschung zu konzentrieren, sei dagegen sinnvoll, da er sich auf konkrete Probleme konzentriere, anstatt sich in Spekulationen zu verlieren.

Technologische Entwicklungen

Jordan kritisiert auch die massiven Investitionen in Rechenzentren als „enorme Wette“ ohne Erfolgsgarantie. Er sieht darin keine zwingende Notwendigkeit für die Weiterentwicklung der KI-Technologie. Stattdessen betont er die Bedeutung von spezialisiertem Wissen auf Basis lokalen Wissens, wofür keine gigantischen Rechenzentren nötig seien.

Er verweist auf Beispiele aus anderen Ingenieurwissenschaften, wie dem Chemieingenieurwesen, wo Sicherheitsstandards strikt eingehalten werden. Die aktuellen Experimente mit KI-Agenten, die ohne klare Grenzen agieren, seien gefährlich und unnötig. Jordan betont, dass eine verantwortungsvolle Entwicklung der KI-Technologie notwendig ist, um die Sicherheit und den Nutzen für die Gesellschaft zu gewährleisten.

Einordnung

Die Debatte um die Zukunft der KI ist geprägt von unterschiedlichen Positionen. Während einige Forscher vor den Risiken einer Superintelligenz warnen, betonen andere die Notwendigkeit weiterer technologischer Entwicklungen. Jordans Kritik zeigt, dass auch innerhalb der KI-Forschung unterschiedliche Meinungen herrschen.

Was das für KMU bedeutet

Für Schweizer KMU bedeutet die Debatte um KI, dass sie sich nicht von Hysterie leiten lassen sollten. Stattdessen ist es wichtig, die technologischen Entwicklungen sachlich zu bewerten und gezielt einzusetzen. Regulierungsforderungen sollten kritisch hinterfragt werden, um nicht in übertriebene Sicherheitsmassnahmen zu investieren.