Künstliche Intelligenz im Schweizer Finanzmarkt (2023)
Die Bedeutung künstlicher Intelligenz (KI) hat in den letzten Jahren in allen Lebensbereichen, auch auf dem Finanzmarkt, rasant zugenommen. Gemäss ihren strategischen Zielen für die Jahre 2021 bis 2024 unterstützt die SFMA Innovationen auf dem Finanzplatz Schweiz und überwacht die damit verbundenen Risiken.
Umfragen zeigen, dass die meisten Institutionen immer noch mit KI experimentieren, während einige Unternehmen bereits über fortgeschrittene Anwendungen verfügen, die entsprechende Risikomanagementprozesse erfordern. Seit es Chatbots wie ChatGPT gibt, ist das Interesse an KI-Lösungen weiter gestiegen. Wie in anderen Lebensbereichen können wir davon ausgehen, dass KI zu einer Vielzahl von Veränderungen auf dem Finanzmarkt führen wird.
In den folgenden vier Bereichen sieht die SFMA besondere Herausforderungen beim Einsatz von KI und erwartet von der Finanzindustrie, dass sie die Risiken entsprechend steuert. Governance und Verantwortung: Entscheidungen können zunehmend auf den Ergebnissen von KI-Anwendungen basieren oder sogar autonom von diesen Anwendungen durchgeführt werden. Kombiniert mit der verringerten Transparenz der Ergebnisse von KI-Anwendungen macht dies die Kontrolle und Zuweisung von Verantwortung für die Handlungen von KI-Anwendungen komplexer. Dadurch steigt die Gefahr, dass Fehler unbemerkt bleiben und Verantwortlichkeiten verschwimmen, insbesondere bei komplexen, unternehmensweiten Prozessen, bei denen es an interner Expertise mangelt. Beispielsweise gibt die KI-Anwendung ChatGPT solche scheinbar überzeugenden Antworten mit höchster Wahrscheinlichkeit, dass es für Nutzer sehr schwierig ist einzuschätzen, ob die Antworten sachlich richtig sind oder nicht. Es müssen klare Rollen und Verantwortlichkeiten sowie Risikomanagementprozesse definiert und implementiert werden. Die Verantwortung für Entscheidungen kann nicht an KI oder Dritte delegiert werden. Alle Beteiligten müssen über ausreichende KI-Expertise verfügen. Robustheit und Zuverlässigkeit: Der Lernprozess in der KI basiert auf riesigen Datenmengen. Dies birgt zunächst Risiken aufgrund schlechter Datenqualität (z. B. nicht repräsentative Daten). Darüber hinaus durchlaufen KI-Anwendungen einen Prozess der automatischen Optimierung, der dazu führen kann, dass sich das Modell in eine falsche Richtung entwickelt (sogenannte Drift). Beispielsweise sind laut Harvard Business Review die meisten KI-Algorithmen zur Vorhersage von Covid-19 gescheitert. Diese Anwendungen waren nicht zuverlässig genug, um autonom bereitgestellt zu werden. Schließlich werden durch den verstärkten Einsatz von KI-Anwendungen und die daraus resultierende Auslagerung und Cloud-Nutzung auch die IT-Sicherheitsrisiken steigen. Bei der Entwicklung, Schulung und Nutzung von KI müssen Institutionen sicherstellen, dass die Ergebnisse ausreichend genau, robust und zuverlässig sind. Sowohl die Daten als auch die Modelle und die Ergebnisse müssen kritisch hinterfragbar sein. Transparenz und Erklärbarkeit: Aufgrund der Vielzahl an Parametern und komplexen Modellen in KI-Anwendungen ist es oft unmöglich, den Einfluss einzelner Parameter auf das Ergebnis zu isolieren. Ohne Verständnis dafür, wie die Ergebnisse zustande gekommen sind, besteht daher die Gefahr, dass Entscheidungen, die auf KI-Anwendungen basieren, nicht überprüfbar oder erklärbar sind. Dies kann Kontrollen durch das nutzende Institut und Prüfer bzw. Aufsichtsbehörden erschweren oder unmöglich machen. Darüber hinaus können Kunden die Risiken nicht vollständig einschätzen, wenn sie nicht über den Einsatz von KI informiert werden. Bei Versicherungstarifen könnte der Einsatz von KI beispielsweise dazu führen, dass der Tarif nicht mehr transparent ist. Es wäre dann unmöglich, den Kunden den Tarif transparent zu erklären.
Institutionen müssen sicherstellen, dass die Ergebnisse einer Bewerbung erklärbar sind und die Nutzung der Bewerbung transparent, empfängerorientiert, relevant und prozessintegriert ist. Diskriminierungsfreiheit: Viele KI-Anwendungen nutzen personenbezogene Daten, um individuelle Risiken abzuschätzen (z. B. zur Festlegung von Tarifen, bei der Kreditvergabe) oder kundenspezifische Services zu entwickeln. Wenn zu bestimmten Personengruppen nicht genügend Daten vorliegen, kann es zu Verzerrungen oder falschen Ergebnissen für diese Gruppen kommen. Werden auf Basis dieser falschen Ergebnisse Produkte und Dienstleistungen angeboten, kann dies zu unbeabsichtigter und ungerechtfertigter Diskriminierung führen. Neben rechtlichen Risiken birgt Diskriminierung auch Reputationsrisiken für die betroffenen Unternehmen. Unternehmen müssen ungerechtfertigte Diskriminierung vermeiden. SFMA hat seine Erwartungen in Bezug auf KI-Anwendungen mit der Finanzindustrie, nationalen und internationalen Organisationen und der Wissenschaft besprochen und entwickelt.
SFMA wird den Einsatz von KI durch beaufsichtigte Unternehmen überwachen. Darüber hinaus wird sie die Entwicklungen beim Einsatz von KI in der Finanzbranche weiterhin genau beobachten, im Gespräch mit relevanten Interessengruppen bleiben und sich über internationale Entwicklungen auf dem Laufenden halten. (Aus dem Risikomonitor 2023)