US-Banken sperren KI-Agenten für Finanztransaktionen

Ausgangslage

Einige grosse US-Banken blockieren KI-Agenten, die Finanztransaktionen im Namen ihrer Kunden durchführen wollen. Betroffen ist unter anderem Metas persönlicher Agent Muse, der seit September diesen Jahres verfügbar ist. Charles Schwab, ein grosser Broker, blockiert solche Agenten aktiv, wie CEO Rick Wurster in einem Interview mit Bloomberg TV erklärte.

Die Sperrung von KI-Agenten betrifft nicht nur Meta, sondern auch andere Finanzdienstleister, die ähnliche Technologien anbieten.

Sicherheitsbedenken

Die Banken sehen in den KI-Agenten ein Sicherheitsrisiko. Kundinnen und Kunden könnten ihren Agenten Zugangsdaten überlassen, die dann in ihrem Namen handeln. Rick Wurster betonte, dass weder die Bank noch die Kundschaft die Handlungen der KI kontrollieren könnten. JPMorgan Chase-CEO Jamie Dimon äusserte ähnliche Bedenken und sprach von der Gefahr abtrünniger Agenten.

Neben den Sicherheitsbedenken gibt es auch Bedenken hinsichtlich der Datensicherheit. Dies könnte zu erheblichen finanziellen Verlusten und Reputationsschäden für die Banken führen.

Technische Lösungen

Trotz der Sperren arbeiten einige Banken an technischen Lösungen, um KI-Modelle dennoch einzubinden. Charles Schwab plant, externe KI-Modelle über eigene Schnittstellen Kontostände abfragen zu lassen, ohne Transaktionen zu ermöglichen. Meta arbeitet mit dem KI-Startup Sierra an einem Protokoll, das Agenten ausweisen und die Erlaubnis der Kundinnen und Kunden einholen soll.

Regulatorische Unsicherheit

Die Haftungsfrage bei Fehlhandlungen von KI-Agenten ist in den USA noch ungelöst. Dies führt zu zusätzlicher Vorsicht bei den Banken. Einige Institutionen haben bereits die US-Notenbank Fed kontaktiert, um über mögliche regulatorische Massnahmen zu sprechen.

Die regulatorische Unsicherheit ist ein weiterer Faktor, der die Banken dazu veranlasst, KI-Agenten zu sperren. Ohne klare Richtlinien könnten die Banken haftbar gemacht werden, wenn KI-Agenten Fehler machen oder betrügerische Aktivitäten durchführen. Die Banken müssen daher abwarten, bis die Regulierungsbehörden klare Vorgaben machen.

Einordnung für die Schweiz

Die Entwicklung zeigt, wie vorsichtig Finanzinstitute bei der Integration von KI in sensible Bereiche wie Finanztransaktionen vorgehen. Ähnliche Bedenken könnten auch in der Schweiz auftreten, insbesondere im Hinblick auf Datenschutz und Haftungsfragen.

Ausblick

Es bleibt abzuwarten, wie sich die Situation entwickelt und ob sich technische Lösungen durchsetzen, die sowohl Sicherheit als auch Nutzen bieten. Die regulatorische Klarstellung wird dabei eine entscheidende Rolle spielen.

Einordnung

Die Sperrung von KI-Agenten durch US-Banken ist Teil einer breiteren Diskussion über die Sicherheit und Regulierung von KI in Finanzdienstleistungen. Ähnliche Entwicklungen könnten auch in anderen Ländern und Branchen zu beobachten sein.

Was das für KMU bedeutet

Für Schweizer KMU bedeutet dies, dass sie bei der Nutzung von KI-Agenten für Finanztransaktionen ebenfalls auf Widerstand stossen könnten. Unternehmen sollten sich bewusst sein, dass die Technologie noch nicht ausgereift ist und regulatorische Hürden bestehen.