L’intelligenza artificiale nel mercato finanziario svizzero (2023)
Negli ultimi anni l'importanza dell'intelligenza artificiale (AI) è cresciuta rapidamente in tutti gli ambiti della vita, compreso il mercato finanziario. In linea con i suoi obiettivi strategici per il periodo 2021-2024, la SFMA sostiene l'innovazione nella piazza finanziaria svizzera e monitora i rischi associati.
I sondaggi mostrano che la maggior parte degli istituti sta ancora sperimentando l'intelligenza artificiale, mentre alcune aziende dispongono già di applicazioni avanzate che richiedono corrispondenti processi di gestione del rischio. Da quando sono diventati disponibili chatbot come ChatGPT, l’interesse per le soluzioni AI ha fatto un ulteriore balzo in avanti. Come in altri ambiti della vita, possiamo aspettarci che l'intelligenza artificiale porti a una serie di cambiamenti nel mercato finanziario.
La SFMA vede sfide particolari nell'uso dell'intelligenza artificiale nelle seguenti quattro aree e si aspetta che il settore finanziario gestisca i rischi di conseguenza. Governance e responsabilità: le decisioni possono basarsi sempre più sui risultati delle applicazioni di intelligenza artificiale o addirittura essere prese autonomamente da queste applicazioni. Ciò, unito alla ridotta trasparenza dei risultati delle applicazioni IA, rende più complessi il controllo e l’attribuzione della responsabilità per le azioni delle applicazioni IA. Di conseguenza, aumenta il rischio che gli errori passino inosservati e le responsabilità diventino confuse, soprattutto per processi complessi a livello aziendale in cui mancano competenze interne. Ad esempio, l'applicazione AI ChatGPT fornisce risposte apparentemente convincenti basate sulla massima probabilità che è molto difficile per gli utenti valutare se le risposte siano effettivamente corrette o meno. È necessario definire e implementare ruoli e responsabilità chiari e processi di gestione del rischio. La responsabilità delle decisioni non può essere delegata ad AI o a terzi. Tutti i soggetti coinvolti devono avere competenze sufficienti in materia di intelligenza artificiale. Robustezza e affidabilità: il processo di apprendimento nell’intelligenza artificiale si basa su enormi quantità di dati. Innanzitutto, ciò comporta rischi derivanti dalla scarsa qualità dei dati (ad esempio, dati non rappresentativi). Inoltre, le applicazioni di intelligenza artificiale subiscono un processo di ottimizzazione automatica, che può portare allo sviluppo del modello nella direzione sbagliata (noto come drift). Secondo la Harvard Business Review, ad esempio, la maggior parte degli algoritmi di intelligenza artificiale per prevedere il Covid-19 hanno fallito. Queste applicazioni non erano sufficientemente affidabili per essere distribuite in modo autonomo. Infine, un maggiore utilizzo delle applicazioni IA e il conseguente outsourcing e utilizzo del cloud aumenteranno anche i rischi per la sicurezza IT. Durante lo sviluppo, la formazione e l’utilizzo dell’intelligenza artificiale, le istituzioni devono garantire che i risultati siano sufficientemente accurati, solidi e affidabili. Sia i dati che i modelli, nonché i risultati, devono essere aperti a domande critiche. Trasparenza e spiegabilità: il vasto numero di parametri e modelli complessi nelle applicazioni di intelligenza artificiale spesso significa che è impossibile isolare l’impatto dei singoli parametri sul risultato. Senza una comprensione di come si sono ottenuti i risultati, c’è il rischio che le decisioni basate sulle applicazioni dell’intelligenza artificiale non siano verificabili o spiegabili. Ciò può rendere difficili o impossibili i controlli da parte dell’ente che lo utilizza e dei revisori o delle autorità di vigilanza. Inoltre, i clienti non possono valutare appieno i rischi se non vengono informati dell’implementazione dell’intelligenza artificiale. Per le tariffe assicurative, ad esempio, l’uso dell’intelligenza artificiale potrebbe significare che la tariffa non è più trasparente. Sarebbe quindi impossibile spiegare la tariffa ai clienti in modo trasparente.
Le istituzioni devono garantire che i risultati di una domanda siano spiegabili e che l'utilizzo della domanda sia trasparente, sotto il profilo del destinatario, della pertinenza e dell'integrazione del processo. Nessuna discriminazione: molte applicazioni di IA utilizzano i dati personali per valutare i rischi individuali (ad esempio per fissare le tariffe, per concedere prestiti) o per sviluppare servizi specifici per il cliente. Se non sono disponibili dati sufficienti su determinati gruppi di persone, ciò può portare a distorsioni o risultati errati per questi gruppi. Se prodotti e servizi vengono offerti sulla base di questi risultati errati, ciò può portare a una discriminazione involontaria e ingiustificata. Oltre ai rischi giuridici, la discriminazione comporta anche rischi reputazionali per le aziende interessate. Le imprese devono evitare discriminazioni ingiustificate. La SFMA ha discusso e sviluppato le proprie aspettative riguardo alle applicazioni dell'IA con il settore finanziario, le organizzazioni nazionali e internazionali e il mondo accademico.
La SFMA monitorerà l'utilizzo dell'IA da parte delle aziende vigilate. Continuerà inoltre a monitorare da vicino gli sviluppi nell’uso dell’intelligenza artificiale nel settore finanziario, continuerà a dialogare con le parti interessate e si terrà aggiornato sugli sviluppi internazionali. (Dal monitor del rischio 2023)