Durante la conferenza stampa di fine anno, il presidente della repubblica serba Aleksandar Vucic ha fatto riferimento, tra le altre cose, alla possibilità di introdurre sistemi di intelligenza artificiale all’interno delle corti di giustizia del paese. Questa affermazione, passata quasi inosservata agli occhi dell’opinione pubblica, ha suscitato diverse preoccupazioni tra gli esperti e gli attivisti che da anni si occupano di privacy e diritti digitali in Serbia.
L’utilizzo dell’IA nelle corti serbe, infatti, si porrebbe all’interno di una strategia di applicazione e sviluppo dell’intelligenza artificiale già piuttosto avanzata, che ha visto soprattutto negli ultimi anni una stretta collaborazione con la Cina. Come riportato da Milica Stojanovic per Balkan Insight, durante la conferenza stampa di dicembre il presidente serbo Vucic ha parlato dell’introduzione dell’intelligenza artificiale nelle corti, rimarcando la necessità di accelerare il funzionamento della giustizia serba e facendo riferimento a una ‘‘predictive justice’’.
Pur trattandosi di una possibilità ancora per nulla definita, Stojanovic riporta alcuni commenti di avvocati ed esperti di diritti digitali. Da un lato, si riconosce l’utilità dell’impiego di sistemi di intelligenza artificiale nella giustizia. Per esempio, l’avvocato Djordje Krivokapic, co-fondatore della ONG SHARE, sottolinea come l’IA possa essere utilizzata nella gestione e automazione del processo decisionale o come strumento di assistenza. Tuttavia, Krivokapic fa notare anche come sia necessario dibattere dettagliatamente e pubblicamente la presenza di sistemi operativi e il loro esatto ruolo nell’elaborazione di una sentenza giudiziaria. Inoltre, lo stesso Krivokapic, così come Ana Toskic Cvetinovic, direttrice esecutiva della ONG Partners for Democratic Change Serbia, mettono in evidenza il potenziale pericolo di discriminazione verso minoranze e gruppi marginalizzati.
Le dichiarazioni di Vucic sull’intelligenza artificiale sono state anche un’occasione per riflettere sull’approccio della Serbia all’IA e su quanto sta succedendo da almeno due anni nel paese. Nel dicembre 2019, la Serbia ha adottato una Strategia per lo Sviluppo dell’Intelligenza Artificiale per il quinquennio 2020-2025, che ne definisce gli obiettivi e gli strumenti, volto alla crescita economica, al miglioramento dei servizi pubblici, all’avanzamento scientifico e allo sviluppo di skills lavorative per il futuro. Sul sito del governo, la strategia viene presentata come un modo per recuperare il divario con le nazioni più avanzate.
Al di fuori della strategia per il 2025, e anche precedentemente a questa, alcune applicazioni di intelligenza artificiale si sono già osservate. Sempre nel giudiziario, per esempio, si è iniziato ad automatizzare la conservazione dei casi e la comunicazione istituzionale. Un’altra applicazione è stata il progetto “Falcon Eye”, inaugurato nell’agosto 2020, il quale ha dotato la capitale serba di un sistema in grado di multare i proprietari delle macchine parcheggiate fuori dagli spazi predisposti, grazie all’utilizzo di veicoli dotati di telecamere capaci di identificare autonomamente le infrazioni.
Il progetto forse più importante attuato finora è però quello di “Safe City”. Si tratta di un piano di sorveglianza su larga scala, attuato nella città di Belgrado, che sfrutta un sistema di telecamere intelligenti dotate di software per il riconoscimento facciale e delle targhe. All’inizio del 2019, il ministro degli interni serbo annunciò ufficialmente l’installazione di circa 1000 telecamere Huawei in circa 800 postazioni all’interno della città. L’introduzione di alcune nuove videocamere tra le strade di Belgrado era in realtà già iniziata negli anni precedenti, nel quadro di una stretta cooperazione tra Serbia e Cina, cominciata con la firma di un accordo tra i due paesi nel 2009. La posizione precisa delle telecamere è stata considerata come un’informazione confidenziale e non comunicata al pubblico. In generale, la mancanza di trasparenza e spiegazioni chiare da parte del governo hanno suscitato ancora una volta le preoccupazioni di gruppi e attivisti per i diritti digitali. Il gruppo “Thousands of Cameras”, per esempio, ha avviato un’iniziativa per mappare le videocamere in tutta Belgrado grazie alle segnalazioni dei cittadini.
Secondo uno studio del Prague Security Studies Institute (PSSI), pubblicato il 30 dicembre 2020, l’utilizzo di sistemi di sorveglianza cinesi, basati su intelligenza artificiale, rischia di essere problematico sotto almeno tre aspetti. In primo luogo, la mancanza di trasparenza sull’influenza cinese nella politica serba pone problemi in termini democratici. C’è poi il rischio di abuso per fini politici del sistema di sorveglianza. Infine, il terzo aspetto è la mancanza di un quadro giuridico chiaro per l’utilizzo del sistema, che permetterebbe quantomeno di fissare alcune garanzie per i cittadini. In un futuro prossimo, riporta sempre lo studio del PSSI, la collaborazione tra Serbia e Huawei sarà rafforzata e il numero totale di telecamere (tra telecamere fisse e mobili in dotazione alle forze di polizia) raggiungerà le 8100 unità, soltanto a Belgrado.
Da parte sua, il governo difende questo progetto partendo da una prospettiva securitaria: diminuzione del crimine e la lotta al terrorismo, ma la mancanza di trasparenza, il rischio di uso improprio di questi sistemi e la scarsa regolamentazione rendono difficile l’accettazione del nuovo sistema da parte della società civile. Anche in questo caso, come già nel caso dell’utilizzo dell’IA nelle corti, di fronte a un’opinione pubblica poco coinvolta, chi si occupa di diritti digitali richiede che un dibattito pubblico si tenga sulle tematiche della sorveglianza attraverso intelligenza artificiale.
Anche sulla scena internazionale, questa stretta collaborazione tra Cina e Serbia sul piano tecnologico e securitario solleva preoccupazioni, in particolar modo in Europa. Nell’ottobre del 2019, due membri del Parlamento Europeo hanno formulato una domanda alla Commissione Europea, chiedendo quali fossero le implicazioni del progetto “Safe City” in relazione al processo di adesione della Serbia all’UE. Nella sua risposta, la Commissione ha affermato che i valori, le norme e gli standard dell’UE sono una parte fondamentale del processo di allargamento dell’Unione. La Commissione ha sottolineato come, tra di essi, sia presente il diritto alla protezione dei dati personali, e come la legislazione serba in materia di protezione dei dati preveda l’utilizzo dei dati personali sensibili in via eccezionale e proporzionale all’interesse pubblico perseguito.
Nello studio del PSSI, i rapporti tra Serbia e Cina vengono considerati come parte della cosiddetta “four pillars foreign policy”, dove i four pillars sono UE, Stati Uniti, Russia e Cina. In un recente commento per ISPI, Giorgio Fruscione nota però un riorientamento della Serbia verso oriente, in particolar modo durante la pandemia. A marzo 2020, riporta Fruscione, Vucic ha dichiarato in risposta al divieto dell’UE all’esportazione di materiale sanitario: “La solidarietà europea non esiste […] è solo una favola sulla carta, l’unico paese che ci aiuterà è la Cina”.
In breve, lo sviluppo e l’applicazione di tecnologie legate all’intelligenza artificiale in Serbia sembrano sollevare problematiche su due livelli: sul piano interno, legate alla violazione di diritti individuali dei cittadini serbi, e sul piano internazionale, legate alle influenze della Cina nei Balcani e al processo di adesione della Serbia all’UE.
Latest posts by Irena Shaleva (see all)
- How Artificial Intelligence will inevitably affect tomorrow’s balance of power - Aprile 4, 2021
- Tutti gli occhi di Belgrado: giustizia, sorveglianza e intelligenza artificiale in Serbia - Marzo 29, 2021
- Macedonia del Nord: il veto della Bulgaria rallenta il processo di adesione all’UE - Dicembre 7, 2020
