Intelligenza Artificiale e sistemi di sicurezza: conosciamo i rischi e l’impatto sociale? Intervista a Fabio Chiusi

Intervista di Julia Iannello

Algoritmi, droni, sensori e tecnologie di riconoscimento biometrico stanno assumendo un ruolo sempre più centrale nella gestione dei confini e dei flussi migratori. Al CICAP Fest 2025, che si è tenuto a Padova dal 14 al 16 novembre, Fabio Chiusi  – giornalista, ricercatore e docente universitario che da anni studia le implicazioni sociali delle tecnologie emergenti, dell’automazione e dell’intelligenza artificiale – ha approfondito il tema della sorveglianza automatizzata e del suo crescente impiego nella gestione delle politiche migratorie.

Chiusi ha spinto il pubblico a riflettere sulla scelta di affidarsi all’Intelligenza Artificiale in una questione di tale delicatezza e portata, chiedendosi se possa davvero risultare una soluzione efficace, giusta e vantaggiosa, e invitando a non accettare acriticamente l’impiego di questa tecnologia in quella che ha definito “la gestione della paura dell’altro”. Gli abbiamo rivolto alcune domande.

Chiusi, come si può garantire una tutela della dignità umana all’interno dei processi decisionali automatizzati, e come questi processi si inseriscono all’interno di un regime democratico?

“Per garantire la tutela della dignità umana in quel tipo di processi decisionali è necessario in primo luogo promuovere una visione ideologica diversa: una visione in cui le tecnologie vengano adottate soltanto dopo essere state valutate in modo scientifico, documentabile e trasparente, così da verificare che i benefici promessi siano reali e tangibili. Oggi accade spesso l’opposto: i possibili rischi vengono presentati come remoti o puramente potenziali (si parla di potential risk), mentre i benefici vengono descritti come attuali, immediati e garantiti. La mia personale esperienza mostra che la situazione è più complessa: mentre i vantaggi sono spesso ancora da dimostrare, molte criticità sono già evidenti e possono tradursi in effetti negativi reali per le persone coinvolte. Solo partendo da una valutazione equilibrata di rischi e benefici è possibile costruire un approccio che protegga effettivamente la dignità umana nei processi automatizzati. Per tutelare la democrazia è necessario che principi quali trasparenza, responsabilità e controllo pubblico vengano assicurati”.

La questione del tempo: queste nuove tecnologie avanzano velocissime. Abbiamo nel concreto il tempo per riflettere sull’uso che vogliamo farne?

“Non siamo più nel contesto del secondo dopoguerra, quando esisteva un tentativo comune di definire regole globali per affrontare problemi globali. Oggi lo scenario internazionale è più frammentato, e diventa molto complicato assicurarsi che l’etica e la regolamentazione precedano l’innovazione stessa. Bisogna partire dalla consapevolezza che tecnologie così potenti richiedono anche strumenti di controllo adeguati. Non si tratta di opporsi all’innovazione, ma di garantire che il suo sviluppo sia sicuro, trasparente e rispettoso dei diritti delle persone. Per questo è necessario un duplice lavoro. Da un lato, un impegno ideologico e di riflessione: costruire una visione condivisa di quali valori debbano guidare l’uso e il futuro dell’IA. Dall’altro, un lavoro normativo che consenta di definire regole che siano realmente applicabili e che permettano di prevenire usi potenzialmente dannosi delle tecnologie, sia per chi le utilizza sia per chi ne subisce gli effetti. In questo senso, l’Europa ha compiuto un passo significativo con l’introduzione dell’AI Act. Il fatto che alcune forme di intelligenza artificiale considerate ad alto rischio vengano limitate o vietate, dimostra che a livello istituzionale c’è un impegno concreto volto alla tutela dei cittadini e dello spazio democratico. È un segnale importante, che parte dalla consapevolezza che non tutte le tecnologie sono compatibili con i valori dell’Unione Europea: stabilirlo in modo chiaro è un risultato di grande rilievo”.

Spesso percepiamo la tecnologia come una minaccia, mentre in realtà essa riflette soprattutto le finalità con cui viene impiegata. Quali sono le attuali prospettive di utilizzo di queste tecnologie di sorveglianza automatizzate?

“Il nodo centrale non è la tecnologia in sé, ma la visione del mondo che ne guida lo sviluppo. Molto spesso queste tecnologie nascono all’interno di un contesto culturale orientato da logiche tecnocratiche, altamente deregolamentate e poco attente ai processi democratici. Si tratta di un approccio che privilegia un’innovazione rapida e senza vincoli, che può essere sintetizzata nel motto move fast and break things e nella quale l’impatto sociale viene preso in considerazione solo secondariamente rispetto all’efficienza tecnologica. Il problema sta nel fatto che una parte significativa degli attori che progettano e implementano questi sistemi non ha un’attenzione specifica verso i temi della democrazia e della tutela dei diritti. Di conseguenza, le tecnologie tendono a riflettere e ad amplificare una visione del mondo che non sempre coincide con quella di una società aperta e trasparente. Per affrontare questo scenario è necessario lavorare in modo serio sulla definizione e sulla misurazione dei benefici promessi da queste tecnologie. La speranza risiede nella crescente consapevolezza pubblica e nello sviluppo di un senso critico diffuso, che fino a poco tempo fa era più debole”. 

Foto di Gabriella Cordone Lisiero