Intelligence artificielle : la SFMA expose ses attentes en matière de surveillance

L'intelligence artificielle (IA) est progressivement adoptée sur le marché financier, notamment pour soutenir les processus internes, mais également dans la gestion des risques, la tarification et l'interaction avec les clients. L’autonomie et la complexité des systèmes d’IA comportent divers risques. Il existe par exemple un risque que les résultats générés par l'IA ne puissent pas être compris ou expliqués par l'homme, que des erreurs ou des inégalités de traitement passent inaperçues ou que les responsabilités dans les décisions basées sur l'IA ne soient pas claires.

Afin de limiter les risques liés à l'utilisation de l'IA, la SFMA a défini ses attentes en matière de surveillance concernant l'utilisation de l'IA dans les processus commerciaux des entreprises surveillées. Les attentes, qui se concentrent sur quatre domaines (voir graphique à la page 33), ont été coordonnées et affinées avec diverses parties prenantes et sont décrites en détail dans le Risk Monitor 2023.

Dans le domaine dynamique de l'IA, la SFMA mise fortement sur un échange étroit avec des experts en Suisse et à l'étranger ainsi qu'avec les institutions des marchés financiers qui utilisent l'IA. Il ressort des discussions que la majorité des institutions qui utilisent l’IA suivent de très près les évolutions dans ce domaine. Mais nombreux sont ceux qui expérimentent actuellement dans des domaines d’application qui ne comportent que des risques limités. Ici, l’objectif est rarement d’atteindre une automatisation complète, et le facteur humain est toujours considéré comme très important dans le processus. L'industrie salue la neutralité technologique et l'approche basée sur les risques de la SFMA. L’IA représentant essentiellement une évolution technique, la plupart des institutions ne considèrent pas les risques comme fondamentalement nouveaux et les abordent déjà dans le cadre de leurs processus de gestion des risques existants. Outre la communication de ses attentes en matière de surveillance, la SFMA examine l'adéquation de la gestion des risques et de la gouvernance en matière d'IA au sein des entreprises surveillées. Afin d'identifier, de limiter et de surveiller les risques spécifiques à l'IA, la SFMA mène depuis le quatrième trimestre 2023 des contrôles sur place et des échanges prudentiels avec des institutions financières qui déploient largement l'IA ou dans des domaines pertinents pour la surveillance. Dans le cadre de sa surveillance continue, la SFMA a également examiné de plus près les premières applications dans la gestion d'actifs, la surveillance des transactions et la gestion des liquidités. (Extrait du rapport annuel 2023)

Documents

Graphiques et informations visuelles