Verantwortliche KI braucht Transparenz und menschliche Kontrolle

Ausgangslage

Künstliche Intelligenz zieht in betriebliche Prozesse ein. Systeme analysieren Daten, automatisieren Abläufe und unterstützen Menschen bei Entscheidungen. Mit der wachsenden Leistungsfähigkeit entsteht jedoch eine zweite Aufgabe: Unternehmen müssen nachvollziehbar festlegen, unter welchen Bedingungen solche Systeme eingesetzt werden.

Responsible AI verbindet deshalb technische Fähigkeiten mit Transparenz, Datenschutz, Sicherheit und menschlicher Kontrolle. Unternehmen müssen wissen, welche Daten verarbeitet werden, wer Zugriff erhält und wer die Verantwortung trägt, wenn automatisierte Abläufe oder Entscheidungen nicht das gewünschte Ergebnis liefern.

Hintergrund

Nicht jede intelligente Automatisierung benötigt generative KI. Kommunikationssysteme können beispielsweise anhand bestimmter Signale erkennen, ob Mitarbeitende im Büro, im Homeoffice oder unterwegs sind, und ihre Erreichbarkeit entsprechend anpassen. Als Auslöser können Kalendertermine, PC-Aktivität oder Geschäftszeiten dienen.

Solche Funktionen lassen sich auch mit Cloud-Telefonie verbinden. Microsoft Teams wird im Beitrag ebenfalls als integrierbare Lösung genannt. Das Beispiel zeigt, dass Fragen nach Kontrolle und Nachvollziehbarkeit schon bei vergleichsweise klar definierten Automatisierungen entstehen, lange bevor komplexe generative KI eingesetzt wird.

Einordnung für die Schweiz

Für Unternehmen ist deshalb entscheidend, Automatisierung nicht allein nach ihrer technischen Machbarkeit zu beurteilen. Wenn ein System selbstständig einen Status oder ein Rufprofil verändert, sollte für die betroffene Person nachvollziehbar bleiben, weshalb dies geschieht und wie sie den Vorgang beeinflussen kann.

Bei generativer KI wird diese Anforderung noch wichtiger, weil Mitarbeitende Texte, Dokumente oder Gesprächsinhalte in Anwendungen eingeben können. Unternehmen brauchen Regeln dafür, welche Informationen verarbeitet werden dürfen. Der Grundsatz der Datenminimierung liefert dabei eine klare Richtung: Technisch verfügbare Daten müssen nicht automatisch genutzt werden.

Was das für Unternehmen bedeutet

KMU benötigen dafür keine möglichst komplizierte KI-Governance. Sie brauchen verständliche Zuständigkeiten. Mitarbeitende sollten wissen, welche Anwendungen zugelassen sind, welche Daten dort verwendet werden dürfen und wann ein Mensch ein automatisiertes Ergebnis überprüfen oder übersteuern muss.

Das gilt besonders für Prozesse mit spürbaren Folgen für Kunden, Mitarbeitende oder Geschäftspartner. Je grösser die Auswirkungen einer Entscheidung, desto weniger sinnvoll ist eine vollständig unkontrollierte Automatisierung. KI kann Entscheidungen vorbereiten oder Abläufe vereinfachen, die Verantwortung bleibt jedoch beim Unternehmen und den zuständigen Personen.

Ausblick

Mit der weiteren Verbreitung von KI dürfte sich die Diskussion stärker von einzelnen Werkzeugen hin zu betrieblichen Regeln verschieben. Transparenz und Datenschutz müssen dann direkt in Prozesse eingebaut werden, statt erst nachträglich geprüft zu werden.

Dabei bleibt eine Grenze bestehen: Nicht jede technisch mögliche Automatisierung ist betrieblich sinnvoll. Unternehmen müssen auswählen, wo selbstständige Systeme einen echten Vorteil schaffen und wo menschliche Kontrolle Vorrang hat. Responsible AI wird damit zu einer praktischen Organisationsfrage, die bei einfachen Automatismen beginnt und bei komplexen KI-Entscheidungen besonders sichtbar wird.