Ascolta la versione audio di questo articolo (generata da IA).
L’Intelligenza Artificiale è entrata rapidamente nella vita quotidiana di milioni di persone. Viene utilizzata per scrivere testi, analizzare dati, gestire procedure amministrative e supportare decisioni sempre più complesse. Eppure, dietro l’immagine di una tecnologia quasi infallibile, emerge un problema destinato a diventare centrale nei prossimi anni: quello degli errori algoritmici e delle responsabilità legali che ne derivano. In ogni caso ad oggi si stima che circa il 45% delle risposte fornite dai classici assistenti di AI contenga errori significativi (Fonte EBU – Unione europea di radiodiffusione)
In Italia non esiste ancora una statistica ufficiale che quantifichi il numero di procedimenti giudiziari avviati specificamente a causa di errori dell’Intelligenza Artificiale. Il fenomeno, tuttavia, è già visibile nelle aule dei tribunali e negli interventi delle autorità di controllo. La questione assume particolare rilevanza se si considera che diversi studi internazionali hanno evidenziato come una quota significativa delle risposte generate dai più comuni assistenti di AI possa contenere errori fattuali, informazioni inesatte o vere e proprie “allucinazioni”, ossia contenuti inventati ma presentati come reali.
I casi più rilevanti emersi finora in Italia si concentrano in tre ambiti principali: la pubblica amministrazione, la gestione algoritmica del lavoro e l’utilizzo dell’AI nell’attività forense.
Concorsi pubblici e amministrazione automatizzata
Uno dei terreni più controversi riguarda gli algoritmi impiegati dal Ministero dell’Istruzione e del Merito per l’assegnazione delle supplenze e dei ruoli scolastici.
Negli ultimi anni migliaia di docenti hanno contestato attribuzioni considerate errate di punteggi, graduatorie e sedi di servizio. Le organizzazioni sindacali hanno denunciato numerosi casi di assegnazioni ritenute incoerenti con i criteri previsti dalle normative vigenti, costringendo l’amministrazione a effettuare continue rettifiche.
La giurisprudenza amministrativa e ordinaria ha progressivamente delineato un principio destinato ad assumere valore generale: l’algoritmo può supportare il procedimento decisionale, ma non può sostituire integralmente la valutazione umana. Diverse sentenze dei TAR e dei tribunali ordinari hanno infatti affermato che la trasparenza e la verificabilità delle decisioni pubbliche non possono essere sacrificate in nome dell’automazione.
Il principio è semplice ma cruciale: quando una decisione incide sui diritti dei cittadini, deve sempre essere possibile comprendere come essa sia stata adottata e chi ne porti la responsabilità finale.
Gli algoritmi che valutano i lavoratori
Un secondo filone riguarda il mondo del lavoro e, in particolare, le piattaforme digitali.
Uno dei casi più noti ha coinvolto Foodinho, società che opera per il gruppo Glovo. Il Garante per la Protezione dei Dati Personali ha contestato il funzionamento di sistemi automatizzati utilizzati per organizzare e valutare le prestazioni dei rider, infliggendo una sanzione milionaria.
Secondo l’Autorità, alcuni meccanismi algoritmici producevano effetti discriminatori e penalizzanti nei confronti dei lavoratori senza che questi fossero adeguatamente informati dei criteri utilizzati per la loro valutazione. Il caso ha rappresentato uno dei primi esempi europei di intervento contro le conseguenze sociali della cosiddetta “gestione algoritmica” del lavoro.
La vicenda ha evidenziato una questione più ampia: chi controlla gli algoritmi che controllano le persone?
Le allucinazioni arrivano in tribunale
Il terzo fronte riguarda direttamente il sistema giudiziario.
Sempre più professionisti utilizzano strumenti di Intelligenza Artificiale per effettuare ricerche giuridiche, predisporre memorie difensive o redigere bozze di atti processuali. Questa pratica consente un notevole risparmio di tempo, ma comporta rischi significativi.
In diversi ordinamenti occidentali sono già emersi casi di avvocati che hanno depositato documenti contenenti sentenze inesistenti, precedenti giurisprudenziali inventati o riferimenti normativi mai esistiti, generati dalle cosiddette allucinazioni dell’AI. Anche in Italia il tema è ormai oggetto di crescente attenzione da parte degli ordini professionali e della magistratura.
L’errore non deriva da una volontà fraudolenta, bensì dalla tendenza di alcuni modelli linguistici a produrre risposte plausibili anche quando non dispongono di informazioni corrette. Tuttavia, dal punto di vista giuridico, la responsabilità continua a ricadere sul professionista che firma l’atto.
La vera questione: chi risponde degli errori?
Dietro questi episodi emerge un interrogativo destinato a caratterizzare il dibattito dei prossimi anni: chi risponde quando un algoritmo sbaglia?
Il produttore del software, l’ente che lo utilizza, il professionista che si affida alle sue indicazioni o l’utente finale?
L’entrata in vigore delle nuove normative europee sull’Intelligenza Artificiale (AI Act) rappresenta un primo tentativo di affrontare il problema. Tuttavia, il diritto si trova ancora nella fase iniziale di adattamento a una tecnologia che evolve più rapidamente delle regole destinate a disciplinarla. In ogni caso si parla Responsabilità del produttore, in base alla suddetta direttiva UE sui prodotti difettosi, l’AI è considerata un prodotto. Se il software compie un errore per un difetto di progettazione o addestramento, il produttore ne risponde direttamente.
In Italia a seconda della natura dell’ errore e del soggetto vittima dell’ errore si applicano i principi della responsabilità civile (professionisti – Aziende) e , per errata valutazioni su candidati nelle P.A. è possibile il ricorso agli organi della giustizia amministrativa e in caso di violazione della privacy con Reclamo gratuito al Garante.
L’ onere della prova risulta alleggerito. Vista la difficoltà dell’ algoritmo e dei processi nascosti (black box). È sufficiente che l’ autorità giudicante ravvisi un nesso causale tra errore e danno.
In conclusione il tema non riguarda soltanto gli specialisti del settore tecnologico. Riguarda chiunque utilizzi strumenti di AI per lavorare, studiare o prendere decisioni. Perché la questione fondamentale non è se l’Intelligenza Artificiale commetterà errori. Gli errori sono inevitabili. La vera sfida sarà stabilire come prevenirli, individuarli e attribuirne correttamente la responsabilità quando producono conseguenze concrete sulla vita delle persone.
