di Marta Tomassini.
Il Sistema di credito sociale (社会信用体系, Shèhuì xìnyòng tǐxì) è un sistema progettato e realizzato dal governo cinese, finalizzato alla raccolta, conservazione ed uso di grandi quantità di dati digitali, riguardanti il comportamento delle persone fisiche e giuridiche in ambito economico, finanziario, sociale e civile.
È definito come una “tecnica disciplinare di regolazione per incoraggiare ed attuare la costruzione di una società esemplare” (Consiglio E., Sartor G. 2021: 140).
Il SCS, insieme ad altri sistemi già in uso di controllo, sorveglianza e regolamento del comportamento, costituisce uno strumento di governo, attraverso cui rafforzare l’effettività della legge ed invitare i cittadini a rispettare un insieme di norme civiche e morali, condivise dalla generalità dei consociati.
Il sistema di credito sociale cinese si basa sull’analisi e sull’integrazione dei Big data, attraverso l’utilizzo di reti neurali e Intelligenza artificiale. Tutti questi dati, grazie alle tecnologie della data analytics, possono indicare ulteriori informazioni personali ed anche sensibili, come la condizione di salute, l’orientamento sessuale, l’orientamento politico ecc.
Origini storiche e fondamento ideologico
Affinché si possa comprendere il fenomeno del SCS, è necessario conoscere l’ideologia alla sua base e il contesto socio-culturale in cui si inserisce.
Il sistema dei crediti sociali ha radici antiche nella cultura cinese. Nel 500 a.C. circa, Confucio si pose l’obiettivo di coordinare tutte le aspirazioni presenti nella società attraverso una serie di regole mirate al mantenimento dell’ordine. Fu così che la morale divenne un elemento integrante della società, assunto dallo stato come criterio valutativo dei cittadini.
Una prima concreta applicazione di questa idea confuciana risale alla Cina imperiale, quando, durante la dinastia Song, fu istituito il sistema di sorveglianza reciproca del baojia (Pieranni, 2021: 120).
Ciò che fa da ponte tra la tradizione confuciana e il sistema di credito sociale è il concetto di xin, che comprende un insieme di norme di comportamento e attitudini, riconducibili ai concetti di sincerità ed onestà.
L’attuale governo ha scelto di recuperare dal passato l’insieme di valori, pratiche e regole di comportamento associati alla nozione di xin al fine di realizzare il processo di “rinnovamento” o “rinascimento” della nazione Cinese.
Secondo il pensiero filosofico-politico cinese, virtù morale e autorità politica sono strettamente connesse.
Maurizio Scarpari, sinologo, ritiene che “nel momento in cui si accetta l’idea che la morale, intesa come l’insieme delle virtù, e l’etica, intesa come l’attuazione pratica di quelle virtù, siano parte integrante del potere politico, tanto da divenirne i cardini, si sancisce il principio che la politica è per sua natura etica, e che lo stato, in quanto massima espressione dell’autorità, è la fonte primaria, se non la sola, della moralità” (Pieranni 2021: 98).
Su questo presupposto, dunque, poggia il sistema di credito sociale, finalizzato ad innalzare il livello morale di chi governa e di chi è governato, attraverso la presa di coscienza delle conseguenze delle proprie azioni, a seconda che siano buone o cattive.
L’importanza del SCS per l’economia cinese
La progettazione di un sistema di credito sociale ha inizio, in Cina, negli anni ‘90 del ventesimo secolo, quando furono avviati studi e ricerche per realizzare sistemi di personal banking e di rating del credito finanziario, con lo scopo di facilitare i prestiti nelle aree rurali al fine di stimolare la crescita del mercato.
L’obiettivo era quello di misurare la credibilità, la solidità e l’affidabilità degli attori finanziari in modo tale da garantire il buon funzionamento della nascente economia socialista di mercato.
Successivamente, l’ambito di applicazione del sistema si è esteso allargando i propri confini alla sfera dell’educazione morale dei cittadini.
La società cinese si considera affetta da un vuoto morale, derivante dai cambiamenti economici e sociali avvenuti a partire dalla fine degli anni ‘70. Il leader Xi Jinping, perciò, ha riconosciuto preminenza assoluta alla garanzia, da parte degli attori ed individui di mercato, del rispetto delle regole per una stabilità economica, sociale e politica.
I primi progetti del SCS sono stati redatti nel 2007 dalla Banca popolare cinese, affiancata alla “Conferenza interministeriale congiunta sulla costruzione del sistema di credito sociale”.
Dal 2011, però, l’obiettivo del sistema non è più solo quello di realizzare un sistema di rating finanziario, ma anche di fornire una soluzione a vari problemi socio-politici.
A riprova di ciò, nello “Schema di pianificazione per la costruzione di un sistema di credito sociale (2014-2020)”, il Consiglio di Stato ha definito il sistema di credito sociale sia come una componente importante dell’economia socialista di mercato, sia come un modo per rafforzare e innovare la gestione della società. Il sistema viene sperimentato in capo a diversi soggetti: persone fisiche e persone giuridiche, come aziende ed organizzazioni sociali e governative.
Le uniche organizzazioni sottratte al presente meccanismo di controllo sono quelle del PCC.
Sempre al fine di aumentare la fiducia dei cittadini nell’economia di mercato cinese, il soggetto sul quale ricade un grado di controllo maggiore sono le aziende, spinte al rispetto totale delle regole impartite dall’autorità, attraverso un monitoraggio centralizzato delle violazioni e un mosaico di sistemi rating specifici per settore e regione. Per quanto concerne le imprese straniere, anch’esse devono sottostare al sistema. Nei rapporti con gli individui, il SCS si concentra soprattutto sul rimborso dei debiti, ma vengono monitorate e sanzionate anche le principali violazioni delle leggi.
In quest’ottica, il SCS rappresenta uno strumento tramite il quale si concretizza l’attuazione del sistema legale e amministrativo esistente.
Tuttavia, l’applicazione delle leggi vigenti porta il sistema a realizzare violazioni di diritti umani.
Struttura e funzionamento
Per comprendere il meccanismo di valutazione giuridica delle pratiche del SCS, è necessario esaminare le tecnologie utilizzate che contribuiscono alla realizzazione del sistema e delineano le sue modalità.
Nell'ambito di gestione del SCS, è possibile distinguere tre fasi: sorveglianza, valutazione, applicazione.
La fase della sorveglianza consiste nel raccogliere le informazioni sugli individui attraverso diverse tecnologie e può svolgersi sia in contesti fisici che virtuali.
Negli ambienti fisici, tra le tecnologie maggiormente utilizzate risultano le telecamere di sorveglianza.
Questi strumenti, insieme ad una serie di tecnologie di intelligenza per il riconoscimento facciale, permettono di collegare volti o anche immagini in movimento ad un determinato soggetto, contrassegnato in precedenza da identificativi personali. Attraverso questo meccanismo, dunque, si ascrivono a ciascun individuo le attività compiute presso i luoghi sottoposti a sorveglianza pubblica. Il suo utilizzo, inoltre, si estende al fine di supervisionare gli esseri umani: il controllo viene messo in atto per determinare se il comportamento, posto in essere da un soggetto, possa ritenersi giuridicamente lecito o eventualmente violativo di norme giuridiche.
Nella dimensione virtuale, invece, l’impiego delle tecnologie si ricollega al controllo dell’interazione degli individui e della loro identità con i sistemi informatici. Ad esempio, in Cina vige una legge che prevede che per gli acquisti online il cittadino acquirente debba fornire la propria identità per usufruire dei servizi che si servono di piattaforme informatiche. Il campo identificativo di controllo nella dimensione virtuale è molto esteso: vi rientra anche il controllo della messaggistica online o della navigazione online.
In questi settori, si utilizzano diversi strumenti tecnologici: i cookies, i quali consentono di unificare le attività online svolte mediante uno stesso dispositivo, o metodi sofisticati che ricollegano dati anonimi alla persona cui si riferiscono. Tutti i dati raccolti possono essere forniti o da soggetti pubblici o da soggetti privati, quali autorità giudiziarie o amministrative che, ad esempio, hanno accesso ad esse in ragione della loro attività.
Alla fase della sorveglianza, segue quella della valutazione: si analizzano le informazioni raccolte al fine di determinare aggiunte o sottrazioni al credito sociale. Le tecnologie utilizzate in questa fase sono in genere semplici algoritmi predisposti dall’uomo. Si aggiungono e si sottraggono un tot di punti in relazione alle azioni compiute. È prevista la sottrazione di punti per attraversamenti stradali fuori dalle strisce pedonali, per la partecipazione a manifestazioni illegali; al contrario, addizione di punti per la partecipazione a gruppi di volontariato, per la partecipazione a pubbliche iniziative di vario genere, etc.
Questo meccanismo di aggiunte e sottrazioni si fonda su un modello di tipo giuridico: sulla base di una valutazione giuridica delle azioni effettuate nel passato, si attribuiscono vantaggi o svantaggi in relazione alle azioni considerate positivamente o negativamente lecite.
Il SCS cinese converge le valutazioni in un dato aggregato.
Si giunge, quindi, ad una valutazione complessiva delle varie informazioni raccolte, che va ad incidere in maniera ampia sulla vita dell’individuo. Si noti che la determinazione di premi o di pene si effettua su meccanismi di valutazione cooperativa, ossia sull’aggregazione di giudizi altrui sul comportamento di una persona. Inoltre, il sistema potrebbe basare il proprio funzionamento su una serie di regole intese a prevenire comportamenti già determinati come positivi o negativi o, ancora, sulla base di previsioni future, utilizzando dati statistici o tecnologie dell’apprendimento automatico. Qualora il funzionamento partisse da questi presupposti, l’attribuzione o sottrazione di punti al punteggio sociale complessivo non avrebbe come unico scopo quello di incoraggiare o scoraggiare i soggetti dal porre in essere o meno un determinato comportamento, bensì potrebbe essere finalizzato alla realizzazione di un intervento statale in previsione di futuri comportamenti indesiderabili.
L’ultima fase del SCS riguarda proprio la determinazione delle conseguenze, ossia il sistema sanzionatorio. Anche in questo caso, il SCS rappresenta un’innovazione rispetto alla disciplina sanzionatoria degli Stati moderni.
Il SCS effettua le valutazioni sulla base di norme, regole, linee guida politiche e criteri di morale condivisa sulla base di modelli esemplare di comportamento.
Il punteggio sociale è l’unica valutazione del soggetto, al quale sono collegati premi e penalità in balia di possibili variazioni continue in rapporto ai comportamenti oggetto delle valutazioni.
L'elemento sanzionatorio disciplinato dal SCS è automatico, ubiquo (si estende a diversi ambiti) e intersettoriale.
Attualmente, la previsione legislativa permette ampia discrezionalità alle amministrazioni, le quali derogano parzialmente o totalmente al principio di proporzionalità tra illecito e sanzione.
Black list e red list
Bisogna, inoltre, soffermarsi sulla particolare struttura del sistema di ricompense e punizioni, caratterizzato da black list e red list.
Le liste nere – nelle quali sono inserite le persone sia fisiche sia giuridiche non conformi ai dettami del partito – devono essere condivise tra tutte le corti cinesi in una piattaforma nazionale e sono pubbliche.
La procedura dell’inserimento in tali liste prevede la notifica all’interessato e il diritto di opposizione motivata entro dieci giorni. Se l’opposizione è fondata, la corte non potrà inserire il nome nella lista nera. Le liste sono riviste ogni tre anni. Se i presupposti per l’inserimento sono cessati, se la richiesta è accolta, il suo nome deve essere cancellato entro tre giorni dalle liste e anche le misure restrittive e punitive devono essere rimosse. I governi di tutti i livelli devono rendere pubblici la supervisione del credito, gli avvisi, le sanzioni di chi è sottoposto a procedura di esecuzione per violazione della fiducia come elemento di trasparenza negli affari di governo (Consiglio E., Sartor G. 2021: 147).
Dal 2018 in poi, sono state introdotte anche le liste rosse, in cui inserire persone fisiche e giuridiche il cui comportamento è ritenuto esemplare. La presenza in queste liste rosse è collegata a meccanismi di incentivi congiunti attraverso il sistema CreditoFacile+, che dispone vantaggi fruibili in cinque aree: prestiti (permettendo l’accesso agevolato a prestiti per le piccole e medie imprese), affitti (ad esempio offrendo di stipulare contratti di affitto senza la caparra), viaggi (con sconti sui prezzi dei biglietti sui mezzi di trasporto pubblico), area amministrativa (in cui si prevede la considerazione preferenziale per l’approvazione quando vengono richiesti servizi governativi), turismo (con sconti in hotel, ristoranti e attrazioni turistiche).
La sperimentazione
In Cina, generalmente, i progetti innovativi sono sperimentati attraverso l’utilizzo del metodo “tentativi ed errori” in aree circoscritte.
Nel caso del sistema di credito sociale è stata incoraggiata la sperimentazione locale dando spazio alla creatività. Sono stati messi in piedi progetti pilota, valutati successivamente a livello del governo centrale e, in seguito, sono stati classificati. Tutti i progetti di credito sociale sono accomunati da un unico fine ideologico, ossia «la promozione dell’onestà e della credibilità, la c.d. chengxin».
Il caso più clamoroso è stato quello della città di Suining. In questo caso è stato ideato un sistema di “credito di massa” in cui tutti i soggetti sono stati dotati di 100 punti di credito come base di partenza. A seconda della condotta del soggetto in riferimento al rispetto o meno di norme legali, amministrative e morali si calcola il punteggio. Le condotte che comportano la perdita di punti sono, ad esempio, la guida in stato di ebrezza (costa 50 punti), avere un figlio estraneo rispetto alla pianificazione familiare (costa 35 punti), il mancato rimborso di prestiti (va dai 35 ai 50 punti).
Sulla base dei punteggi accumulati e sottratti, i vari soggetti sono catalogati su una scala di “affidabilità”, che va dalla A – massima affidabilità – alla D.
I cittadini che corrispondono a livelli inferiori – dalla B alla D – sono sottoposti ad un esame continuo per cercare di guadagnare il punteggio perso, recuperabile nel giro di due o cinque anni, a seconda della violazione commessa. Mentre, i cittadini di classe A hanno una serie di benefit, ad esempio, agevolazioni nella ricerca di un lavoro.
L’esperimento di Suining è stato fortemente criticato dalla stampa nazionale paragonandolo al sistema della “Carta del buon cittadino” giapponese utilizzata dalle autorità nipponiche nel corso del secondo conflitto mondiale, per questo è stato rigettato dal governo di Pechino. Nonostante il fallimento di questo modello, a partire da esso si sono succedute sperimentazioni basate sempre su premi e punizioni non solo in relazione dell’aspetto economico, ma anche incardinato sul concetto di affidabilità sociale, amministrativa e penale.
Uno dei piani più apprezzati è quello di Rongcheng, anche grazie al riscontro positivo di cui ha goduto da parte della popolazione. Si tratta di un caso chiave, definito “dimostrativo” dallo stesso governo, indicandolo come via migliore per realizzare una vera “società armoniosa” e stabile.
L’amministrazione locale della città di Rongcheng ha realizzato un sistema di credito sociale di valutazione, in cui si attribuisce un punteggio a tutti i residenti. Inoltre, sono previste piattaforme integrate a tre livelli (municipalità, distretti e sotto-distretti) per la conservazione e condivisione dei dati. Quanto fatto a Rongcheng sembra funzionare: tutta la cittadinanza partecipa “perché i cittadini ritengono che sia meglio per la propria amministrazione”. Gli effetti sono stati positivi: secondo i residenti la qualità della vita è aumentata; nessuno di loro ritiene che il sistema crei dei problemi alla propria privacy.
Ad esempio, il sistema di credito sociale attuato dal Ministero dei Trasporti per i tassisti della città di Rongcheng ha prodotto esiti estremamente positivi, tra cui “una diminuzione dei reclami del 72% e la restituzione di proprietà smarrite da parte dei tassisti per un valore pari a 2 milioni di RMB nei dodici mesi dall’inizio del sistema”. Al fine di assegnare la valutazione complessiva al singolo tassista il sistema ha previsto che si tenesse conto delle valutazioni dei consumatori sul servizio.
Un altro progetto pilota che pare funzionare, e per questo maggiormente riprodotto, è quello di Shanghai, in cui una app stabilisce l'onestà di aziende e cittadini sulla base del loro comportamento amministrativo, penale e non solo. Per esempio, di recente nella città cinese è stato introdotto un sistema di raccolta differenziata governato dal riconoscimento facciale.
Infine in alcuni progetti pilota sono previste anche azioni che consentono di migliorare il proprio punteggio: partecipare ad iniziative del partito, dimostrarsi attivo e benevolente nei confronti degli anziani ecc. È evidente che questi diversi progetti puntano a testare e porre le basi per un modello nazionale all'interno del quale possano svilupparsi nuovi concetti di cittadinanza, nonché nuovi divieti o controlli, per esempio, sul «rispetto» del partito comunista, o sulla presenza nella lista di contatti di persone considerate «pericolose» dal partito.
La Cina è uno Stato da sempre con evidenti tendenze autoritarie e, per questo, la gestione di un progetto come quello dei crediti sociali può di sicuro arrivare, ed è arrivato, a picchi di intrusione e di giudizio sulla vita privata e personale dei cittadini.
Ingegneria sociale e SCS
Nel sistema di credito sociale la sanzione è prevista da norme e regolamenti giuridici amministrativi. Tuttavia, l’uso del sentimento di “vergogna” come leva per spingere al comportamento conforme e desiderato avvicina la sanzione all’ambito etico-morale più che giuridico.
Il SCS, infatti, protende ad una finalità di micro-ingegneria sociale che sottende l’assunto per cui il governo avrebbe il compito di dare forma e contenuto ai comportamenti dei suoi cittadini, in un’ottica in cui l’essere umano è malleabile e ingegnerizzabile.
Si può affermare che lo sviluppo della tecnologia consenta alla dirigenza cinese di esercitare al meglio un rigido controllo su tutto quello che avviene nel Paese.
Quando la tecnologia consente di estrarre i dati più svariati e precisi sul comportamento della popolazione e quando questi dati sono facilmente utilizzabili dagli apparati statali, aumentano le possibilità di controllare e organizzare una società, indicando i parametri secondo i quali consentire o meno l’esercizio stesso della cittadinanza. Infatti, il progetto di crediti sociali si dimostra essere funzionale al raggiungimento dello scopo principale del partito comunista: il mantenimento della stabilità. Non a caso, a partire dagli anni ’90, i vari governi hanno previsto un finanziamento costante ad università e istituti di ricerca per dar vita ad una vera e propria classe dirigente “tecnologica” in grado di gestire politicamente quanto raggiunto dalla ricerca.
La tendenza al controllo interno della società cinese ha inizio negli anni ’70 ed è connessa alla figura dello scienziato Qian Xuesen, il padre della missilistica nazionale e dei primi modelli di ingegneria sociale, i quali confluirono nel Golden Project. Si tratta di un progetto lanciato dal PCC negli anni ’90, che prevede un’organizzazione totale della società su basi ingegneristiche al fine di arrivare il più vicino possibile alla realizzazione di una società modello.
Uno dei sotto progetti del Golden Project è il Golden Shield: un sistema connesso direttamente con il SCS, che si propone di creare un’infrastruttura nazionale all’interno della polizia e della sicurezza interna.
Il punto di svolta della progettazione riguarda la capacità di condividere automaticamente le informazioni raccolte: il Golden Shield Program permette di integrare tra loro le varie informazioni contenute nei database delle forze dell’ordine e basate su dati anagrafici reali ottenuti, ad esempio tramite operatori delle telecomunicazioni. È proprio grazie all’automazione del controllo sociale che si è realizzata l’idea di ottenere una armonizzazione della condotta sociale: il fine ultimo della raccolta di informazioni su persone e aziende è quello di influenzare il comportamento delle persone, a partire dalla sanzione loro comminata, tramite l’inserimento all’interno di una black list.
A partire dagli studi di Qian, il partito ha optato per un’accelerazione nell’innovazione tecnologica per creare una “cittadinanza modello”, ideata per abitare le efficienti smart city. Grazie alle nuove tecnologie, le città sono rigorosamente pensate con spazi, strutture e servizi in grado di attuare un controllo totale sulla popolazione, nonché per assicurare efficienza e armonia.
Le smart city rappresentano l’idea di un luogo efficiente, bellissimo e sostenibile. Tuttavia, rischiano di diventare un ulteriore strumento di disuguaglianza.
Infatti, non potranno ospitare l’intera popolazione cinese e quindi il rischio è che solo una piccola percentuale di popolazione, presumibilmente la più ricca, avrà modo di vivere in condizioni eco-sostenibili e di utilizzare risorse che non saranno a disposizione di tutti.
Dal 2018, la Cina ha dato avvio a circa 500 sperimentazioni: lo sviluppo economico e l’inquinamento hanno obbligato il governo a ripensare il proprio sviluppo urbano, adottando il modello della smart city e dell’IoT.
Lo scopo è quello di realizzare una civiltà ecologica e che garantisca la sicurezza personale di tutti i cittadini. A tal fine è necessario avvalersi della digitalizzazione, della rete e dell’intelligence per innalzare il livello di modernizzazione delle città. Ovviamente tutti questi benefici avrebbero un prezzo: la mancanza di privacy. Si apre infatti la questione della protezione dei dati dei cittadini estratti nelle smart city. Il CEO di Baidu nel 2019 ha dichiarato, in relazione ai cittadini cinesi, che “sono disposti a scambiare la privacy per sicurezza, praticità ed efficienza”. Alla luce di questo contesto, bisogna interpretare la legge cinese sulla cybersicurezza del 2017, che presenta una lacuna in merito alla protezione dei dati dei cittadini: non si chiarisce né il ruolo del governo nella raccolta dei dati, né l’utilizzo di questi una volta elaborati.
Da un punto di vista pratico, da alcuni anni Pechino ha trasformato la regione nord-occidentale dello Xinjiang in un immenso laboratorio sociale che, secondo alcuni, sconfinerebbe in un pratico esperimento totalitario. Si tratta della Regione più sorvegliata del Paese: in ogni zona della città vi sono posti di polizia, telecamere e territorio militarizzato.
In questa zona vive la minoranza Uigura, un’etnia turcofona e musulmana, che viene considerata una minaccia a livello terroristico dal PCC, il quale ha attuato una serie di disposizioni nei confronti di questa.
Alla base di ciò sussiste un’operazione di natura “educativa”. In attuazione del programma “United as One Family”, un milione di cinesi di etnia Han sono stati mandati nello Xinjiang per installarsi in ogni casa e controllare ed educare gli uiguri ad una cultura patriottica. Inoltre, il compito di questi funzionari è anche quello di condannare i comportamenti errati: in caso di giudizio negativo, i “controllati” sono spediti nei campi di rieducazione cinesi.
Seppur l’obiettivo della classe dirigente sia quello di garantire benefici ai singoli individui, non si può non evidenziare la capacità del SCS di influire sulle dinamiche sociali e di reprimere efficacemente ogni contrasto ed ogni dissenso. Sorge dunque l’interrogativo circa il grado di autonomia garantito ad ogni individuo in relazione alle scelte morali e di vita.
La questione ruota attorno al valore della libertà individuale e al benessere psicologico delle persone fisiche soggette al meccanismo di sorveglianza e punizione in quanto rischiano costantemente di esser private della possibilità di compiere scelte in autonomia.
Parallelamente da un punto di vista giuridico, si pone anche il problema del diritto all’oblio, cioè la possibilità di riscatto per chi ha tenuto comportamenti valutati negativamente. Poiché il sistema di credito sociale manca di una precisa disciplina legislativa che regoli le tre fasi di supervisione, valutazione e sanzione, è difficile determinare in quale misura questo diritto all’oblio sia effettivamente garantito per coloro che sono inseriti nelle liste nere.
Infine, vi è il problema della responsabilità collettiva: le azioni degne o indegne di un soggetto possono avere effetti su familiari e amici? Nonostante l’applicazione di sanzioni congiunte sia finalizzata a dirigere i comportamenti dei singoli laddove il diritto ha fallito nel suo compito di regolamentazione del comportamento sociale, vi è il rischio non trascurabile che il sistema anziché migliorare i cittadini degeneri in un sistema “a caste” dando luogo ad ulteriori discriminazioni e forme di materialità sociale.
Il modello del SCS cinese può sembrare il prodotto di un romanzo distopico, tuttavia è reale ed ha pesanti ripercussioni sui cittadini che vi sono sottoposti, in particolari nei confronti dei dissidenti, come riportato dal documentario “Total Trust” di Jialing Zhang.
Una realtà di questo tipo, però, non deve essere percepita come eccessivamente lontana da noi.
In mancanza di normative e in presenza di deviazioni autoritarie, l’IA può effettivamente costituire uno strumento di controllo statale.
Poiché vi è l’impellente necessità di disciplinare la materia, l’Unione europea sta lavorando ad una Proposta di legge sull’intelligenza artificiale. In essa sono individuate quattro macrocategorie di sistemi vietati dall’UE: sistemi di tecniche subliminali con il fine di manipolare le persone o distorcere i comportamenti di esse, senza che queste ne abbiano piena consapevolezza; pratiche di sfruttamento della vulnerabilità di gruppi di persone specifiche, quali disabili o minori, con il fine di provocare danno fisico o psicologico alla propria persona o a terzi; pratiche manipolative che ledono l’informazione e la disposizione della libera scelta dei singoli di non essere soggetti a profilazione o ad altre pratiche che potrebbero influire sul loro comportamento; sistemi di identificazione biometrica remota in “tempo reale” in spazi accessibili al pubblico con finalità di contrasto.
Tali sistemi sono vietati poiché ritenuti particolarmente invasivi dei diritti e delle libertà delle persone: l’utilizzo di questi potrebbe avere ripercussioni sulla vita privata dei soggetti coinvolti, in quanto costantemente sotto sorveglianza, scoraggiando in maniera indiretta l’esercizio della libertà di riunione e di altri diritti fondamentali. In tal caso, dunque, si verificherebbe un aumento dei rischi per i diritti e le libertà delle persone oggetto di attività di contrasto. Costituiscono una deroga a questi divieti tre situazioni, ove l’eccezione si giustifica attraverso il perseguimento di un interesse pubblico rilevante, gerarchicamente l’importanza dell’interesse pubblico prevale sulla tutela dell’eventuale lesione. Le eccezioni sono le seguenti: la ricerca di potenziali vittime di reato, minacce per la vita o l’incolumità fisica delle persone fisiche e attacco terroristico.
Tuttavia, se vi è l’intenzione del legislatore di vietare la profilazione degli individui da parte delle autorità statali, resta ammissibile – seppur sottoposta a specifici limiti – la profilazione da parte di soggetti privati a fini commerciali. Nei paesi europei e nord-americani gli esempi che più si avvicinano al modello cinese si rinvengono nel mondo del lavoro, in particolare nelle piattaforme per la fornitura di servizi. Le società maggiormente in voga che forniscono servizi di trasporto di persone o cose adottano l’utilizzo di punteggi negativi come conseguenza a comportamenti del lavoratore quale il rifiuto di una richiesta di prestazione o il ritardo nell’adempienza. In questi casi, però, le valutazioni settoriali non convergono in una valutazione complessiva dell’individuo, il quale è valutato esclusivamente come lavoratore o potenziale debitore.
Bibliografia
-Brussee V., Drinhausen K., China’s Social credit system in 2021. From fragmentation towards integration, in MERICS China Monitor, maggio 2022.
-Consiglio E., Sartor G., Il sistema di credito sociale cinese: una “nuova” regolazione sociotecnica mediante sorveglianza, valutazione e sanzione, in Tigor, A. XIII n.2.
-Pieranni S., Red Mirror: il nostro futuro si scrive in Cina, Bari-Roma, Editori Laterza, 2020.
Image Copyright: ISPI
Comments