Ein Schlüsselelement für die Einführung von KI

(Übersetzt von DeepL)

Künstliche Intelligenz (KI) verändert nach und nach die Landschaft von Unternehmen und Finanzinstituten. Um diese Technologien voll auszuschöpfen und gleichzeitig die damit verbundenen Risiken zu kontrollieren, ist eine robuste KI-Governance unerlässlich. Diese ermöglicht es, KI-Systeme an den Werten, Zielen und regulatorischen Standards des Unternehmens auszurichten und gleichzeitig ein wirksames Risikomanagement zu gewährleisten. Laut einer Umfrage der FINMA stieg der Einsatz von KI in Schweizer Finanzinstituten von 53 % im Jahr 2023 auf 75 % im Jahr 2025, mit einer Prognose von 90 % bis 2027 (siehe Meldung vom 24. April 2025). Dieser deutliche Anstieg zeigt, wie dringend Banken geeignete Governance-Mechanismen einführen müssen, um den technischen, ethischen und sicherheitsrelevanten Herausforderungen der KI gerecht zu werden.

Was ist KI-Governance ?

KI-Governance umfasst alle Prozesse, Richtlinien und Strukturen, die zur Steuerung der Konzeption, Entwicklung, Einführung und Wartung von KI-Systemen eingesetzt werden (zu den Erwartungen der FINMA siehe Caballero Cuevas, cdbf.ch/1392). Sie zielt darauf ab :

• die Ziele und Prioritäten entsprechend der Gesamtstrategie klar zu definieren ;
• Identifizierung, Bewertung und Minderung potenzieller Risiken, wie z. B. algorithmische Verzerrungen oder Schwachstellen in der Cybersicherheit.
• Einführung von Kontrollen und Sicherheitsmassnahmen zum Schutz der Daten und zur Gewährleistung der Integrität der Systeme.
• Kontinuierliche Überwachung, um die Leistung der KI-Systeme laufend anzupassen und zu verbessern.

Die Schlüsselelemente einer wirksamen KI-Governance

Für eine wirksame KI-Governance müssen mehrere Komponenten integriert werden.

Zunächst müssen Ziele und Prioritäten definiert werden. KI muss zur Erreichung konkreter Ziele und eines klar identifizierten Geschäftswerts beitragen (Optimierung interner Prozesse, Verbesserung der Dienstleistungen, Erhöhung der Sicherheit). Eine klare Definition der Chancenbereiche lenkt Investitionsentscheidungen auf Projekte mit dem größten Mehrwert.

Zweitens muss ein Risikomanagement eingerichtet werden. Mechanismen zur Erkennung und Reduzierung der mit KI-Systemen verbundenen Risiken (algorithmische Verzerrungen, Verarbeitungsfehler, Schwachstellen, Datenverarbeitung) sind unerlässlich. Durch die Überprüfung neuer Initiativen und regelmäßige Kontrollen lassen sich die Auswirkungen dieser Risiken begrenzen.

Drittens sind Transparenz und Rückverfolgbarkeit wichtige Faktoren. Die Transparenz der Entscheidungsprozesse von KI-Systemen, insbesondere durch die Rückverfolgbarkeit der in die Modelle eingegebenen und aus ihnen ausgegebenen Daten (Data Lineage) und die Transparenz der Anwendungsfälle, stärkt das Vertrauen der Beteiligten und erleichtert die schnelle Erkennung von Fehlfunktionen. Darüber hinaus gewährleistet die Integration des Prinzips „Human in the loop” eine kontinuierliche menschliche Überwachung, wodurch das Fehlerrisiko verringert und die Qualität der mit Hilfe der KI getroffenen Entscheidungen verbessert wird.

Viertens müssen die Verantwortlichkeiten klar verteilt werden. Die KI-Governance muss die Rollen und Verantwortlichkeiten innerhalb der Organisation genau definieren. Der Governance-Ausschuss muss Entscheidungsträger und Experten umfassen, darunter den Chief Data Officer, die Verantwortlichen für Compliance, Recht und Risiko sowie IT- und Fachexperten. Diese Struktur muss eine proaktive Governance und eine aktive und kontinuierliche Einbindung der Stakeholder in die Bewertung, Validierung und Überwachung von KI-Anwendungsfällen gewährleisten. Darüber hinaus garantiert sie eine agile und evolutive Governance, die sich an neue regulatorische und technologische Anforderungen anpassen kann.

Letztendlich basiert eine wirksame Governance der künstlichen Intelligenz auf einer strengen Daten-Governance, die die Qualität, Sicherheit und Integrität der Daten gewährleistet, die für das reibungslose Funktionieren von KI-Systemen unerlässlich sind. Im Bankensektor bedeutet dies die Umsetzung von Richtlinien, die die Richtigkeit, Vollständigkeit und Aktualität der Daten gewährleisten. Die FINMA empfiehlt insbesondere technische und organisatorische Massnahmen (MTO) zur Verhinderung von algorithmischen Verzerrungen und zur Gewährleistung der Datenqualität. Darüber hinaus sind Kontroll-, Überwachungs- und Dokumentationsmechanismen erforderlich, um eine verantwortungsvolle und auf die strategischen Ziele ausgerichtete Verwaltung sowie eine strenge Bewertung der Erklärbarkeit der Modelle zu gewährleisten. Diese Praktiken stärken die Zuverlässigkeit, Ethik, Transparenz und Rückverfolgbarkeit des Einsatzes von KI.

Welcher Ansatz zur Verbesserung der KI-Governance in einer Privatbank in der Schweiz ?

Eine Privatbank in der Schweiz kann einen dreistufigen Ansatz verfolgen, um eine wirksame und nachhaltige KI-Governance sicherzustellen :

1. Schaffung der Grundlagen : In dieser Phase werden klare Richtlinien für den Zugang, die Nutzung und die Kontrolle von KI in Übereinstimmung mit den geltenden Normen festgelegt. Dazu gehören auch Schulungsprogramme, um die Beteiligten für ethische Fragen und Risiken zu sensibilisieren. Eine zentrale Anlaufstelle und eine Sensibilisierungskampagne erleichtern die Akzeptanz dieser Maßnahmen.
2. Integration und Optimierung : Sobald die Grundlagen geschaffen sind, besteht das Ziel darin, den Einsatz von KI zu industrialisieren. Dies erfordert die Validierung von Modellen, die Durchführung von Robustheitstests und eine enge Zusammenarbeit zwischen den Teams für KI, Daten, Sicherheit und Compliance. Die gemeinsame Nutzung von Anwendungsfällen optimiert die Ressourcen, während Überwachungstools die Erkennung und Korrektur von Verzerrungen ermöglichen und so eine zuverlässige und ethische KI gewährleisten.
3. Kontinuierliche Verbesserung und Innovation : Die Governance entwickelt sich entsprechend den technologischen und regulatorischen Fortschritten weiter. Regelmäßige Aktualisierungen der Richtlinien, ethische Bewertungen und die Erforschung neuer Anwendungsfälle tragen dazu bei, die Kohärenz des Systems aufrechtzuerhalten und verantwortungsvolle Innovationen zu fördern.

Fazit

Durch die Integration der Grundpfeiler der KI-Governance schafft eine Bank einen strukturierenden Rahmen, der mit ihren strategischen Ausrichtungen und institutionellen Werten im Einklang steht. Dieses System soll einen verantwortungsvollen, sicheren und den regulatorischen Anforderungen entsprechenden Einsatz von KI gewährleisten und gleichzeitig die Transparenz, Rückverfolgbarkeit und Risikokontrolle stärken. Vor dem Hintergrund der raschen Verbreitung von KI-Technologien ist die Einführung einer speziellen Governance keine Option mehr, sondern eine strategische Notwendigkeit, die die Voraussetzungen für nachhaltige Innovation auf der Grundlage von Vertrauen und organisatorischer Effizienz schafft.