Frontiere aperte, controlli serrati. Tecnosorveglianza nella nuova Europa

Le ultime modifiche al Patto sulla Migrazione e al Codice Schengen preoccupano la società civile, mentre l'Italia decide a chi affidare l'AI Act; oltreoceano, gli USA sfidano la Cina vietando Tik Tok

apr 26, 2024

Considerato uno dei più importanti successi dell’integrazione europea, lo spazio (o area) Schengen è stato istituito a metà degli anni Ottanta con l’obiettivo di eliminare gradualmente i controlli alle frontiere degli Stati membri, facilitando, tra le altre cose, anche la libera circolazione delle persone. </Monitor di aprile ti racconta come e perché l’intento iniziale sta miseramente fallendo, sostituito da crescenti pressioni politiche che chiedono sempre più controlli ai confini interni ed esterni dell’UE.

Hermes Center si schiera, come di consueto, contro ogni tipologia di sorveglianza di massa—specialmente contro sistemi permeati di bias razziale. In questo numero, vi riportiamo tutti gli appelli ai quali abbiamo aderito nell’ultimo mese, insieme ai più recenti aggiornamenti in fatto di diritti digitali (che, non ci stancheremo mai di ripeterlo, sono a tutti gli effetti diritti umani!). Buona lettura!

E non dimenticare di iscriverti per ricevere il prossimo numero:

AI Act, l’entrata in vigore: e adesso?

Il 21 aprile 2024 è entrato in vigore l’AI Act, il regolamento che norma i sistemi di intelligenza artificiale nei Paesi dell’Unione Europea. Sebbene la maggior parte delle disposizioni diventerà applicabile solo tra 20 mesi (dicembre 2025), alcune voci hanno tempistiche diverse.

È il caso delle norme inerenti i sistemi di intelligenza artificiale ad alto rischio, come quelli utilizzati nel settore sanitario o dei trasporti, che sono già applicabili, o delle norme sui sistemi di riconoscimento facciale remoto (pratica che Hermes conosce molto bene), che entreranno in vigore il 21 agosto di quest’anno.

A negoziati terminati, però, resta l’amaro in bocca. La società civile, di cui facciamo parte anche noi, si è dichiarata complessivamente insoddisfatta del regolamento. Nell’analisi congiunta che abbiamo condotto al fianco di altre associazioni sotto la coalizione EDRi—European Digital Rights, sono stati evidenziati i principali punti sui quali rimangono perplessità e preoccupazioni. Si tratta di:

Occasioni mancate su trasparenza e responsabilità. La legge richiede un database dei sistemi di intelligenza artificiale ad alto rischio…ma con esenzioni per le forze dell'ordine e le autorità preposte al controllo dei flussi migratori.
Misure troppo deboli per far fronte a un utilizzo discriminatorio dell’AI. La legge vieta alcuni usi dell'intelligenza artificiale, come il riconoscimento (biometrico) facciale in alcuni contesti, ma tali divieti presentano un alto numero di esenzioni, finendo per delegittimare i divieti stessi. In questi casi, la sorveglianza biometrica permetterebbe di identificare chiunque transiti in luoghi pubblici—dissidenti politici, attivisti e manifestanti, giornalisti…
L'esenzione per la sicurezza nazionale, che indebolisce le tutele. I sistemi di intelligenza artificiale utilizzati per la sicurezza nazionale sono esentati dalla maggior parte delle disposizioni, il che solleva preoccupazioni sulla mancanza di supervisione e su potenziali violazioni dei diritti umani.
Protezione inadeguata per le persone in transito in contesti migratori. La legge prevede norme più deboli sull'uso dell'intelligenza artificiale nel controllo dei flussi migratori, non regolamentando molti sistemi ad alto rischio e rinviando alcune normative al 2030.

Quest’ultimo punto trova conferma anche in una serie di riforme in ambito migratorio approvate proprio questo mese, che trattiamo qualche paragrafo più in basso. Ci sono inoltre criticità legate alla limitata trasparenza di alcuni sistemi AI e all’impatto ambientale di queste tecnologie.

AI governance, il caso italiano

E sul piano nazionale? A chi sarà affidato il compito di traslare le disposizioni dell’AI Act nella legislazione italiana? Ebbene, nonostante le pressioni della società civile (Hermes Center compreso), la scelta del governo italiano è ricaduta su Agid (Agenzia per l’Italia Digitale) e Acn (Agenzia per la cybersicurezza nazionale).

Questo articolo di Wired Italia firmato da Luca Zorloni, che include anche una menzione al lavoro di Hermes Center del mese scorso (v. in fondo), riporta quanto proposto nel disegno di legge che delinea la strategia italiana per lo sviluppo e l'utilizzo di sistemi AI.

Agid dovrà sovrintendere lo sviluppo dell'AI, l'applicazione negli enti pubblici e la certificazione e l'accreditamento di chi sviluppa algoritmi. Acn invece avrà compiti ispettivi. E di sanzione, in caso di illeciti. In tandem gestiranno gli spazi di prova di sistemi di AI (le cosiddette sandbox), anche per impieghi in campo militare (per i quali dovranno sentire il ministero della Difesa).

Oltre alle macroaree in carico a Agid e Acn, nel disegno emergono anche i seguenti punti: aggravante dei reati per uso di AI, lotta ai deepfake, tutela del diritto d'autore, libero accesso ai dati per scopi di ricerca, anche in ambito sanitario, istituzione di un comitato di coordinamento a Palazzo Chigi e… conferma delle competenze del Garante della privacy in materia di protezione dei dati personali.

Su quest’ultimo punto, è chiaro che il governo desideri mantenere un forte controllo sul settore dell'AI, limitando il potere del Garante—autorità a tutti gli effetti indipendente.

Ciò va contro le istanze che avevamo presentato in forma di lettera aperta a fine marzo, in cui esprimevamo la nostra perplessità sull’affidare la governance a soggetti istituzionali, i quali, per quanto competenti, non saranno mai indipendenti, autonomi e completamente trasparenti.

La lettera è intitolata Intelligenza artificiale: il governo sbaglia ad affidare la governance a un’agenzia governativa ed è co-firmata da Privacy Network, The Good Lobby Italia, Reclaim The Tech, Info.nodes, Amnesty International Italia, PERIOD think tank, StraLi for strategic litigation.

Il disegno di legge è ora al vaglio di Camera e Senato e potrebbe subire modifiche.

Prigione Europa, EURODAC e Codice Schengen

Ma torniamo per un momento allo scenario europeo. Il 10 aprile, il Parlamento europeo ha dato il via libera definitivo al Nuovo Patto sulla Migrazione e sull’Asilo, già oggetto di pesanti critiche da parte delle associazioni che si occupano di diritti digitali. Questo perché il nuovo patto include anche la riforma dell’EURODAC (European Asylum Dactyloscopy Database), riforma che, nella realtà, supera le fantasie più distopiche.

Tra le disposizioni del Patto (nuovo sistema di ricollocazione obbligatoria dei richiedenti asilo, velocizzazione della burocrazia, cooperazione con i Paesi terzi), spicca quella relativa al rafforzamento dei controlli alle frontiere UE.

Tali controlli ricorrono per l’appunto all’EURODAC, che finora raccoglieva le impronte digitali dei richiedenti asilo maschi dai 14 anni in su. Con la nuova riforma, la raccolta impronte sarà estesa obbligatoriamente a tutte le fasce d’età—bambini compresi. E c’è di più: le impronte dei minori potranno essere conservate fino a 12 anni dalla loro raccolta (non per un massimo di 6 anni, come per gli adulti).

Inoltre, sono previsti: 1) la creazione di un database centrale europeo delle impronte digitali gestito dall’Europol, al posto del precedente sistema decentralizzato con database nazionali; 2) un accesso più ampio ai dati, visto che non solo le autorità preposte alla gestione dei flussi migratori, bensì anche le forze dell'ordine e l’intelligence di tutti gli Stati membri avranno accesso ai dati EURODAC.

Se la libera circolazione non è più libera

Ma non finisce qui, purtroppo. La prossima settimana, il Parlamento europeo si troverà a votare in sede plenaria l’accordo provvisorio raggiunto lo scorso febbraio sulla riforma del CFS—Codice Frontiere Schengen.

Anche in questo caso, come anticipato nell’introduzione di </Monitor, l’obiettivo è rafforzare i controlli, stavolta alle frontiere interne all’Unione Europea. In particolare, gli Stati membri dovranno effettuare una valutazione approfondita della necessità di reintrodurre i controlli almeno ogni sei mesi.

Tale valutazione dovrà tenere in considerazione 1) «l’analisi delle minacce alla sicurezza pubblica e all'ordine pubblico»; 2) «i dati sui flussi migratori». La società civile teme quindi un’escalation delle discriminazioni alle frontiere, con tanto di profilazione etnica (racial profiling).

Ecco gli appelli a cui si è unito Hermes Center nell’ultimo mese:

Appello contro la riforma del Nuovo Patto sulla Migrazione e sull’Asilo, nello specifico contro la riforma EURODAC;
Lettera aperta di Chloé Berthélémy e Laurence Meyer contro la riforma EURODAC (tradotta da noi per Il Fatto Quotidiano, ripresa da Il Manifesto);
Appello contro la riforma del CFS.

USA e Cina, guerra all’ultimo ban

Voliamo ora oltreoceano, per parlare di censura digitale. Il 12 aprile, Apple ha rimosso dall'App Store cinese le app di Meta WhatsApp e Threads, su ordine del governo di Pechino.

Nonostante le crescenti tensioni tra Stati Uniti e Cina nel settore tecnologico siano ormai ben note, Apple ha affermato che la rimozione era dovuta a problemi di sicurezza nazionale sollevati dall'Agenzia cinese per la regolamentazione di Internet.

Tuttavia, non è chiaro quale contenuto specifico abbia scatenato il divieto. In precedenza, Apple aveva già bloccato in Cina VPN, servizi di messaggistica crittografata e persino app di notizie. C’è da dire che Apple è particolarmente vulnerabile alle pressioni della Cina, in quanto fa grande affidamento sulla produzione e sulla vendita di iPhone nel Paese.

La rimozione di WhatsApp e Threads, un vero e proprio sforzo da parte della Cina per controllare il flusso di informazioni entro i suoi confini, ha trovato presto risposta nella recente proposta di legge del Congresso statunitense.

Il 23 aprile, infatti, Congresso ha approvato una legge che potrebbe proibire TikTok negli USA, citando problemi di sicurezza nazionale legati alla proprietà cinese dell'app. La legge lancica a ByteDance, la società proprietaria di TikTok, un ultimatum: vendere l'app entro nove mesi per scampare il ban.

Nel complesso, si stima che il dibattito politico attorno a TikTok possa trascinarsi per mesi o addirittura anni, mentre l'app, nel frattempo, rimarrà disponibile per tutti gli utenti statunitensi.

Vecchi e nuovi appuntamenti

Per Hermes Center, aprile è stato un mese ricco di eventi. I nostri Davide del Monte e Laura Carrer hanno partecipato al Festival Internazionale del Giornalismo 2024, in veste di membri dell’associazione info.nodes (una realtà molto vicina ad Hermes, in quanto a valori portanti e modus operandi).

L’occasione era l’incontro L’utilizzo dell’AI in guerra, dall’Ucraina a Gaza del 19 aprile, che ha cercato di far luce sugli aspetti più controversi della combinazione letale tecnologia-conflitti armati. Il tema è estremamente attuale, specialmente vista la tragica situazione nella Striscia di Gaza, campo di sperimentazione delle armi israeliane già da molto tempo (ne parla questo libro: Laboratorio Palestina, di Antony Loewenstein, Fazi Editore).

In aprile, abbiamo anche firmato un approfondimento per EDRi (European Digital Rights) sulla differenza tra webscraping e spidering (di Claudio Agosti, editing di Alessandra Bormioli).

A maggio invece, abbiamo in agenda 1) un workshop interno della LSE (London School of Economics) sull’impatto del data-driven policing sulle comunità razzializzate, a cui parteciperà la nostra Antonella Napolitano, e il festival aperto al pubblico di Reclaim The Tech a Bologna (17-18-19 maggio).

…Ci sarai anche tu?

</ MONITOR

Discussione su questo Post