GenAI nel settore finanziario: come attivare strategie di controllo efficaci

A fronte degli indubbi vantaggi, occorre tuttavia ricordare anche le possibili problematiche: inclusi aspetti etici, di sicurezza e di conformità normativa.

Le potenzialità della GenAI per il mercato finanziario

Le capacità dell’Intelligenza Artificiale (AI) di produrre lavori simili a quelli umani sono migliorate rapidamente, specialmente dal rilascio dei primi Large Language Model (come ChatGPT di OpenAI) disponibili per il pubblico. Diversi settori industriali nel mondo stanno scommettendo su questa tecnologia. La spesa globale per la generative AI (GenAI) è destinata a crescere notevolmente nei prossimi anni, raggiungendo i 151 miliardi di dollari entro il 2027 (fonte Gartner 2023) Anche per il mercato finanziario gli investimenti sono in forte crescita, a livello globale quelli previsti per il 2024 si aggirano intorno ai 47,6 miliardi di dollari (fonte Gartner 2023).

Miglioramento dell’interazione e della relazione tra banca e cliente

Infatti, le potenzialità della GenAI per il settore finanziario sono numerose, a partire dal miglioramento dell’interazione e della relazione tra banca e cliente, a cui sono indirizzati il 38% degli investimenti (fonte Statista, 2024) totali dedicati alla GenAI.

L‘analisi e la previsione dei mercati

Tra le altre promettenti innovazioni, GenAI potrebbe migliorare significativamente l’analisi e la previsione dei mercati. Ad esempio, avendo la capacità di analizzare grandi volumi di dati storici potrebbe aiutare prevedere in maniera ancora più efficace i trend di mercato, suggerendo agli investitori o al banker decisioni più informate. Inoltre, utilizzando l’elaborazione del linguaggio naturale (NLP), la tecnologia può analizzare report finanziari, notizie di mercato e altri documenti testuali per estrarre informazioni rilevanti, in modo da generare dati sintetici per migliorare le decisioni, o per aggiungere dati di addestramento dei modelli di machine learning, quando i dati reali sono scarsi o di bassa qualità.

Campagne di marketing mirate e personalizzate

Allo stesso tempo, utilizzando i dati storici dei clienti, attraverso la GenAI è possibile creare campagne di marketing altamente mirate e personalizzate, orientate a soddisfare bisogni specifici di ogni singolo cliente, per aumentare la soddisfazione e la fidelizzazione della clientela stessa.

Le sfide etiche, di sicurezza e conformità della Generative AI

Tuttavia, a fronte di enormi potenzialità, è importante considerare anche le sfide legate all’implementazione, inclusi aspetti etici, di sicurezza e di conformità normativa. I rischi relativi all’adozione di strumenti di GenAI sono altrettanto numerosi e richiedono un attento presidio e una governance rigorosa.

Tra i principali rischi emerge il fenomeno delle allucinazioni, ovvero la generazione di risposte inaccurate ma presentate come veritiere, che può confondere gli utenti e compromettere le decisioni aziendali. Un’altra minaccia è rappresentata dai cyber attacchi, capaci di manipolare dati e infrastrutture, minando la sicurezza dei sistemi. Al contempo, la gestione delle terze parti è cruciale: normative come il Digital Operational Resilience Act (DORA) richiedono alle istituzioni un controllo rigoroso della supply chain, per garantire la continuità operativa. Infine, la tutela della data privacy resta un tema centrale, con il rischio di violazioni o uso improprio dei dati personali. Oltre a questi fattori, emergono rischi operativi specifici, come problemi IT durante l’integrazione dei sistemi, o rischi legali legati al mancato rispetto di contratti e normative. Ma soprattutto nel contesto finanziario, è necessario dedicare particolare attenzione ai rischi reputazionali: un errore nell’implementazione dei sistemi di GenAI potrebbe erodere la fiducia dei clienti, causando instabilità all’intero sistema finanziario.

La conformità normativa rappresenta quindi una priorità per l’intero sistema finanziario, al fine di garantire che i contenuti generati rispettino le policy interne, le normative secondarie di settore e i principi stabiliti dall’AI Act, quali spiegabilità, equità, robustezza e mancanza di allucinazioni.

GenAI for compliance

Affrontare questa sfida, vuol dire, dunque, bilanciare innovazione e sicurezza, con una pianificazione strategica che miri a proteggere dati, reputazione e operatività aziendale. Emerge la necessità di presidiare e governare tale tecnologia, definendo linee guida e regole legate all’utilizzo della tecnologica, stabilendo magari metriche, KPI e soglie puntuali, non solo di tipo deterministico ma anche probabilistico. Ad oggi, solo il 20% delle Istituzioni ha implementato un framework di controllo di compliance ex-ante sugli strumenti di AI, senza però introdurre controlli specifici, mentre il 10% rivela di aver delineato un processo di controllo ben definito sia ex-ante che ex-post. Il 50% del mercato, invece, ha appena cominciato a definire le metriche e le policy di Compliance per il controllo dell’AI (fonte: White Paper GenAI@Work LAB, 2024, Cetif).

È fondamentale, dunque, che le funzioni di controllo, come la compliance, assumano un ruolo centrale nel monitorare l’uso di questa tecnologia per garantire la conformità alle normative e la protezione dei dati sensibili. Inoltre, per via della quantità virtualmente infinita di contenuti producibili con agenti di GenAI, che, ad esempio, potrebbero consentire di produrre comunicazioni commerciali personalizzate per ciascun cliente, diviene necessario sviluppare un controllo preventivo della conformità normativa di tali contenuti.

Ppensare a tool e agenti di AI Generativa per la compliance

La capacità di questi modelli di creare varianti infinite di contenuti rende il controllo di conformità di ogni singolo output logisticamente e temporalmente impossibile, anche per il limitato numero di risorse dedicate alla Compliance. Dunque, pensare a tool e agenti di AI Generativa per la Compliance non è utopistico. Questi agenti possono consentire di verificare i contenuti in tempo reale, al momento della loro generazione, permettendo di giungere ad una risposta immediata circa la loro conformità regolatoria. Solo in questo modo, le Istituzioni potranno continuare a beneficiare di maggiore personalizzazione, a partire delle comunicazioni commerciali, migliorando l’esperienza del cliente, senza compromettere la conformità alle regolamentazioni vigenti.

Tuttavia, a fronte di una Compliance in una fase di forte evoluzione digitale (il 50% delle banche ha istituito un’unità di Digital Compliance, fonte Cetif Research Insight Digital Banking Hub 2024, in collaborazione con Avantage Reply), la Generative AI per la funzione è ancora in una fase di test e idea generation. Il potenziale della GenAI per la Compliance è certamente riconosciuto dal mercato, ma le Istituzioni sono al momento concentrate sullo sviluppo di agenti soprattutto per il business, mentre per la Compliance cominciano ad emergere le prime sperimentazioni che riguardano alcune aree chiave, come l’Anti-Money Laundering (fonte Cetif Research Insight Digital Banking Hub 2024, in collaborazione con Avantage Reply).

Cosa significa implementare solide misure di governance

In conclusione, implementare solide misure di governance significa stabilire protocolli chiari per l’utilizzo della Generative AI, effettuare audit con una certa frequenza e garantire che tutti gli output generati siano trasparenti e verificabili; solo il primo passo per un utilizzo sostenibile di queste nuove soluzioni.

I framework di controllo e monitoraggio devono essere integrati con la creazione di agenti di GenAI specificamente dedicati alle funzioni di controllo non solo di primo, ma anche di secondo livello, come la Compliance.

Per raggiungere questi obiettivi, è indispensabile un cambiamento nella cultura aziendale.

Questo percorso richiede, da un lato, la consapevolezza che le funzioni di controllo possono rappresentare una leva strategica di business, favorendo lo sviluppo sostenibile di soluzioni tecnologiche capaci di generare vantaggi competitivi, e, dall’altro, l’investimento nella formazione continua del personale, mirata a comprendere le potenzialità, i limiti e i rischi legati all’AI e alla Generative AI.

Inoltre, è fondamentale destinare risorse al reclutamento di figure con competenze digitali avanzate, essenziali per prevenire usi impropri della tecnologia, massimizzarne i benefici e garantire il pieno rispetto delle normative vigenti.