Per anni l'intelligenza artificiale è stata raccontata come una questione tecnica, da lasciare agli sviluppatori, agli ingegneri, ai data scientist e ai reparti IT e, ovviamente, a chi si occupa di monetizzarla.

Spoiler. Non è più così.

L’AI come questione di governance e responsabilità

L'AI sta rapidamente diventando una questione legale, organizzativa e di governance aziendale. Le imprese continuano spesso a porsi la domanda sbagliata: "Qual è la migliore AI?" Il vero problema non è quale modello utilizzare. È capire chi decide, chi controlla, chi verifica e chi risponde quando il sistema produce un danno, una discriminazione, una fuga di dati o semplicemente una decisione errata.

Perché prima o poi accade.

L'AI non è un software tradizionale. È un sistema che influenza decisioni, processi, reputazione e responsabilità. Ed è qui che il diritto entra prepotentemente in gioco.

Il dibattito internazionale si è spostato con forza verso temi che fino a poco tempo fa sembravano quasi teorici: tracciabilità delle decisioni algoritmiche, explainability, accountability, supervisione umana, responsabilità civile, audit dei modelli, governance dei dati e controllo dei fornitori.

Tradotto in termini concreti: non basta più usare l'intelligenza artificiale. Bisogna dimostrare come la si utilizza. Chi ha autorizzato il sistema? Con quali dati è stato addestrato? Chi verifica i risultati? Chi interviene in caso di errore? Esiste una catena decisionale? Esiste un sistema di monitoraggio? E la più importante: tutto ciò, è stato scritto e portato a conoscenza delle persone giuste?

Sono domande profondamente giuridiche, prima ancora che tecniche perché se le risposte non fossero quelle giuste l’alternativa è la ricerca di giustificazioni da dare agli stakeholder, all’authority, a un giudice.

Dall’adozione tecnica alla governance algoritmica

L'errore che molte aziende stanno commettendo è trattare l'AI come una semplice utility operativa, una sorta di nuovo software da installare rapidamente per aumentare la produttività. Ma l'intelligenza artificiale modifica i flussi decisionali dell'impresa, e quando un sistema modifica i processi decisionali entra inevitabilmente nel perimetro della governance. Per questo motivo l'AI Act europeo non deve essere letto solo come una normativa tecnologica: è, in realtà, una normativa sulla governance del rischio algoritmico. Il punto centrale non è vietare la tecnologia. È governarla.

Le imprese che nei prossimi anni avranno un vantaggio competitivo non saranno necessariamente quelle con più strumenti AI, ma quelle capaci di integrarli dentro strutture organizzative adeguate, procedure chiare, responsabilità definite e sistemi di controllo misurabili. Perché il vero rischio non è l'intelligenza artificiale in sé. Il vero rischio è utilizzare sistemi che incidono su persone, dati, clienti e decisioni senza sapere realmente chi li sta governando.

Thomas Sowell ha scritto che le soluzioni ai problemi complessi tendono a essere celebrate per ciò che promettono, non per ciò che producono. Vale anche per l'AI: tutti ne esaltano le potenzialità, tutti mostrano le demo, tutti raccontano le storie di successo. Ma pochissimi si fermano a chiedersi cosa succede quando qualcosa va storto, chi ne risponde e secondo quali regole.

L'epoca del "proviamo questo tool e vediamo cosa succede" sta finendo. Sta iniziando quella della governance algoritmica. E in questa nuova fase il ruolo del giurista cambia radicalmente: non è più soltanto colui che interviene dopo il problema, ma la figura che contribuisce a costruire architetture decisionali, procedure interne e sistemi di controllo capaci di rendere sostenibile l'uso dell'AI dentro l'impresa.

La domanda non è più se le aziende utilizzeranno l'intelligenza artificiale. Tutti la useranno. La domanda è: hai un avvocato che sa davvero come governarla?