Riconoscimento Facciale e AI: il nuovo report del Parlamento Europeo

Il Servizio Ricerca del Parlamento europeo (EPRS) ha recentemente pubblicato un report sui rischi  e le vulnerabilità legati alle tecnologie di riconoscimento e AI.

Il paper fornisce una panoramica approfondita delle tecnologie di riconoscimento biometrico attualmente in mercato e delle relative implicazioni economiche. Attualmente l’intelligenza artificiale (AI) supporta l’uso di tecnologie biometriche, comprese le applicazioni di riconoscimento facciale, che sono utilizzate per scopi di verifica, identificazione e categorizzazione degli interessati da enti privati e pubblici.

Se da un lato l’industria dei sistemi di riconoscimento biometrico è destinata a una rapida crescita nei prossimi anni, la progressiva diffusione di facial recognition technologies (FRT) basate su AI ha generato un fervente dibattito sul grado di intrusività degli strumenti di sorveglianza biometrica. L’uso dei sistemi di riconoscimento facciale per finalità di sicurezza pubblica ha certamente dimostrato la propria efficienza in contrasto alla crisi epidemica da Covid-19. Tuttavia, la pervasività e intrusività di tali tecnologie, così come la loro inerente suscettibilità all’errore, danno origine a una serie di perplessità in materia di diritti fondamentali degli interessati per quanto riguarda, ad esempio, discriminazione e segregazione delle fasce sociali più vulnerabili nonché violazioni del diritto alla privacy. Per affrontare tali conseguenze, l’Unione Europea ha già adottato regole stringenti come la Carta dei diritti fondamentali (cd. Carta di Nizza), il GDPR, la Law Enforcement Directive (LEPD), che trovano applicazione anche con riferimento ai processi connessi alle FRT. Tuttavia, il report adotta un approccio critico nella valutazione del livello di adeguatezza dell’attuale quadro normativo alle nuove sfide delle FRT.

Il report procede, quindi, all’esame della recente proposta di regolamento sull’intelligenza artificiale della Commissione Europea, che intende, tra gli altri notevoli propositi, regolamentare le tecnologie di riconoscimento facciale e biometrico basate su AI. In aggiunta alla normativa applicabile esistente (si pensi agli articoli 9 e 22 del GDPR), la proposta di regolamento sull’AI si propone di introdurre nuove regole volte a governare l’immissione sul mercato europeo delle FRT. Tali tecnologie sarebbero categorizzate in base alle propri caratteristiche di utilizzo e sviluppo in prodotti “ad alto rischio” o “a basso rischio”. Secondo il report, un gran numero di FRT confluirebbe nella categoria di AI “ad alto rischio”, imponendo un effetto “collo di bottiglia” per l’intero mercato. In tal senso i sistemi di riconoscimento facciale in tempo reale applicabili a spazi pubblicamente accessibili per finalità di contrasto sarebbe vietato, a meno che gli Stati membri non scelgano di autorizzarli per cogenti motivi di sicurezza pubblica e siano concesse le opportune autorizzazioni giudiziarie o amministrative. Un’ampia gamma di FRT usate per finalità differenti da quelle di contrasto potrebbero essere permesse, previa valutazione dello stato di conformità della tecnologia al regolamento e nel rispetto di alcuni stringenti requisiti di sicurezza prima di essere immesse nel mercato UE. Si pensi, in tal senso, ai meccanismi AI per il controllo delle frontiere, trasporti pubblici, finalità educative.

Mentre le parti interessate, i ricercatori e i regolatori sembrano concordare sulla necessità di una regolamentazione specifica sulle FRT, parte della letteratura in merito solleva perplessità circa la summa divisio tra sistemi biometrici a basso rischio e ad alto rischio avanzata dalla Commissione. La proposta di regolamento, in tal senso, introdurrebbe un quadro normativo di standardizzazione e autoregolamentazione privo di un’adeguata supervisione pubblica, con effetti distorsivi sul mercato. In conclusione, il report fornisce un esame comparatistico relativo agli approcci regolamentari alle FRT perseguiti a livello internazionale, prestando particolare attenzione all’ordinamento statunitense e cinese.

Su un simile argomento, può essere interessante l’articolo: “Commissione europea: pubblicata la Proposta di Regolamento sull’intelligenza artificiale”