KI-Sicherheit: Unternehmen müssen Schatten-KI und Datenlecks kontrollieren

Risiken erkennen

KI ist im Arbeitsalltag vieler Unternehmen angekommen, doch die IT-Abteilung hat oft keinen Überblick über die genutzten Tools. Teams testen KI-Dienste eigenständig, Chatbots laufen produktiv und Trainingsdaten liegen ungesichert in der Cloud. Das erhöht das Risiko von Datenlecks und Sicherheitslücken.

Özgür Isik von TrendAI identifizierte sechs zentrale Risiken: Schatten-KI, Datenabfluss, Halluzinationen, Governance-Probleme, übermässige Berechtigungen und neue Angriffswege. Schatten-KI entsteht, wenn Mitarbeitende externe KI-Dienste nutzen, ohne dass die IT davon weiss. Datenabfluss passiert, wenn vertrauliche Informationen in öffentliche Clouds gelangen.

Isik betonte, dass Halluzinationen besonders gefährlich sein können, da sie oft überzeugend klingen und somit falsche Informationen verbreiten. Ein Beispiel dafür ist, wenn eine KI in einer Offerte einen Gratisservice einfügt, den es gar nicht gibt. Dies kann zu Vertrauensverlust bei Kunden führen und rechtliche Konsequenzen nach sich ziehen.

Sicherheit gewährleisten

Unternehmen sollten KI-Dienste vor dem Start gründlich testen. Red Teaming und Penetrationstests simulieren Angriffe, um Schwachstellen zu finden. Im laufenden Betrieb müssen Eingaben und Antworten der KI kontrolliert werden. Zudem braucht es einen kontinuierlichen Überblick über Cloud-Assets und genutzte Dienste.

TrendAI bietet Lösungen wie den AI Scanner und AI Guard an. Der AI Scanner führt automatisierte Penetrationstests durch, während der AI Guard Prompts und Antworten in Echtzeit prüft. Das Security Posture Management (SPM) sorgt für Transparenz und Kontrolle über Cloud- und On-Premis-Infrastrukturen.

Isik empfahl, dass Unternehmen regelmässig Penetrationstests durchführen, um die Sicherheit ihrer KI-Modelle zu gewährleisten. Diese Tests sollten nicht nur die Modelle selbst, sondern auch die Infrastruktur rund um die KI umfassen. Die IT-Abteilung muss stets informiert sein, welche Dienste verwendet werden und wofür.

Was das bedeutet

Unternehmen, die eigene KI-Dienste anbieten, müssen klare Verantwortlichkeiten und Regeln festlegen. Kritische Schritte sollten nach dem Vier-Augen-Prinzip freigegeben werden. Auch die Infrastruktur rund um KI-Modelle muss regelmässig überprüft werden.

Unternehmen, die KI-Dienste anbieten, müssen sicherstellen, dass diese Dienste nicht von aussen angreifbar sind. Dies bedeutet, dass Automatisierungen integriert werden müssen, ohne dass Informationen abfliessen oder die Modelle manipuliert werden können. Zudem sollten Unternehmen sicherstellen, dass sie immer einen kontinuierlichen Überblick über ihre Cloud-Assets haben.