Die Auswirkungen der EU-KI-Verordnung auf den Finanzsektor
Am 1. August 2024 ist die EU-Verordnung 2024/1689, auch bekannt als EU AI Act oder EU-KI-Verordnung, in Kraft getreten. Mit ihrer Veröffentlichung im Amtsblatt der Europäischen Union am 12. Juli 2024 wurde ein bedeutender Schritt in der Regulierung künstlicher Intelligenz umgesetzt. Diese Verordnung stellt das weltweit erste umfassende Regelwerk für den Einsatz von KI dar und wird weitreichende Auswirkungen nicht nur innerhalb der EU, sondern auch darüber hinaus haben.
Unternehmen, die KI-Systeme innerhalb der EU vertreiben oder dort einsetzen, werden sich den Anforderungen der Verordnung unterwerfen müssen. Dies gilt unter anderem auch für Finanzdienstleister, die in einem hochregulierten Umfeld tätig sind und eine verstärkte Überwachung durch die Aufsichtsbehörden erwarten können. Die Eidgenössische Finanzmarktaufsicht FINMA hat bereits in ihrem Risikomonitor vom November 2023 die langfristigen Implikationen von KI als strategisches Risiko identifiziert und plant, den Einsatz von KI-Systemen bei den von ihr beaufsichtigten Instituten eingehend zu prüfen.
AI Literacy: Eine oft vernachlässigte Anforderung
Ein zentraler, jedoch häufig unterschätzter Aspekt der Verordnung ist die Verpflichtung zur Schulung in künstlicher Intelligenz, die sogenannte AI Literacy, die in Artikel 4 festgelegt ist. Sowohl Anbieter als auch Nutzer von KI-Systemen sind verpflichtet, sicherzustellen, dass ihre Mitarbeitenden über ein ausreichendes Mass an KI-Kompetenz verfügen. Diese Schulungen sollen nicht nur technisches Wissen, sondern auch ein Verständnis für die Risiken und Auswirkungen des KI-Einsatzes vermitteln.
Die AI Literacy umfasst unter anderem die korrekte Anwendung technischer Elemente während der Entwicklungsphase eines KI-Systems, die Massnahmen zur Risikominimierung während der Nutzung, die angemessene Interpretation der Ergebnisse sowie die Kenntnis über die Auswirkungen von KI-gestützten Entscheidungen auf betroffene Personen. Diese Schulungsvorgaben gelten nicht nur im Zusammenhang mit hochriskanten Systemen, sondern auch für solche mit geringerem Risiko.
Bedeutung für den Finanzplatz Schweiz
Die von der FINMA formulierten Erwartungen in Bezug auf Governance, Zuverlässigkeit, Transparenz und Gleichbehandlung spiegeln die neuen Bestimmungen der EU-KI-Verordnung wider und werden sich voraussichtlich als Best Practice in der Schweiz etablieren. Für Finanzunternehmen besteht nun die dringende Notwendigkeit, ihre internen Prozesse und Systeme im Hinblick auf die neuen Vorschriften zu überprüfen und anzupassen. Die Implementierung von AI Literacy wird dabei ein wesentlicher Schritt sein, um sowohl die regulatorischen Vorgaben zu erfüllen als auch das Vertrauen von Kunden und Aufsichtsbehörden aufrechtzuerhalten.
Finanzinstitute sollten sich auf die neuen Anforderungen vorbereiten und sicherstellen, dass ihre Mitarbeitenden die notwendigen Kompetenzen erwerben. So können die betroffenen Unternehmen potenzielle Sanktionen vermeiden und ihre Marktstellung in einem zunehmend regulierten Umfeld sichern.