Quando parliamo di intelligenza artificiale (IA) ci riferiamo ad un insieme di capacità di una macchina di svolgere, tramite alcune tecnologie e software, attività eseguite solitamente da esseri umani.
In questi ultimi anni sono spopolate alcune IA generative, ossia intelligenze artificiali in grado di generare testi, immagini, video o altri media in risposta ad alcune richieste.
In particolare tra queste sono molto conosciuti i sistemi basati su modelli di lingue su larga scala (LLM), i quali sono capaci di simulare una conversazione con un essere umano e il modello noto come GPT (Generative Pre-trained Transformer) sviluppato da OpenAI, che è sicuramente il più noto. Tuttavia in Oriente, e in particolare in Cina, non vige la stessa linea in tema di IA.
Chi è Ernie Bot?
Nel Marzo 2023 Baidu, il principale motore di ricerca cinese, ha rilasciato il modello linguistico Ernie Bot (Enhanced Rapresentation through Knowledge Integration) e l’ha reso disponibile e pienamente operativo a partire dal 31 Agosto dello stesso anno. Ernie ha registrato un accesso di oltre un milione di utenti nelle sole prime 19 ore.
A differenza del modello generativo ChatGPT, e di tantissimi altri, si tratta di un’IA fruibile solo in lingua cinese ed è necessario possedere un numero di telefono cinese per accedervi.
È comunque disponibile direttamente dal sito Baidu e dagli App Store di tutto il mondo, anche quelli degli USA, al contrario di ChatGPT che, invece, non è disponibile in Cina.
Ma come funziona esattamente Ernie Bot?
Ernie Bot segue un meccanismo molto complesso nell’elaborazione delle richieste e, soprattutto, nello sviluppo delle risposte.
Modello di linguaggio pre-addestrato
Si tratta un modello IA evolutivo rispetto a BERT (Bidirectional Encoder Representations from Transformers), uno dei primi modelli di linguaggio basati sull’architettura Transformer, ossia un’architettura di reti neurali che ha rivoluzionato il campo del deep learning, in particolare nel contesto dell’elaborazione del linguaggio naturale.
Infatti a differenza delle RNN (Reti Neurali Ricorrenti), che processano le sequenze una parola alla volta, i Transformer possono elaborare tutti gli elementi di una sequenza contemporaneamente. Questo permette una maggiore parallelizzazione durante l’addestramento, rendendo il processo molto più veloce ed efficiente.
Integrazione della conoscenza
Uno degli aspetti distintivi di Ernie rispetto ad altri modelli è la sua capacità di integrare diverse forme di conoscenza strutturata durante il processo di addestramento. Questo gli permette di avere una comprensione più profonda e contestuale dei concetti, migliorando la precisione nelle risposte.
Ottimizzazione per il cinese
Ernie Bot è stato ottimizzato per gestire la lingua cinese, che presenta sfide uniche rispetto ad altre lingue. La tokenizzazione, cioè la suddivisione del testo in unità comprensibili dal modello, è adattata per il cinese, trattando correttamente i caratteri e le parole composte.
Inoltre è anche ottimizzato per il riconoscimento e l’interpretazione di nomi di persone, luoghi, etc. nel contesto cinese.
L’orientamento politico di Ernie Bot
Generalmente non vediamo algoritmi che compiono scelte politiche, ma sul tema di Ernie è doveroso aprire una parentesi.
Prima di essere reso disponibile agli utenti il colosso Baidu ha dovuto ottenere un’autorizzazione dal governo cinese, perché anche Ernie è sottoposto a regime di censura del suddetto governo.
Tant’è che questo modello di IA è caratterizzato da un’elusività piuttosto marcata nei confronti di domande ritenute politicamente sensibili. Tanto che dichiara inizialmente che “Possiamo parlare di quello che volete”, tuttavia continua dicendo “ma vi preghiamo di notare che alcuni argomenti possono essere delicati o toccare questioni legali e sono quindi soggetti alla vostra responsabilità”.
Un esempio? Il genocidio degli uiguri, perpetrato dal governo sotto la direzione del Partito Comunista Cinese nei confronti di questa minoranza religiosa.
Infatti Ernie, a tali quesiti, risponderà “Cambiamo argomento e ricominciamo” oppure “Parliamo di qualcosa di diverso”.
Anche se Baidu ha dovuto sottoporre il proprio prodotto ad un filtro di stampo comunista proveniente dal governo, non possiamo parlare di un vero e proprio “comunismo algoritmico”.
Normativa cinese: un GDPR orientale?
In Cina il Provvedimento Provvisorio sulla Gestione dei Servizi di IA Generativa stabilisce all’art.1 che lo scopo del provvedimento è la promozione del corretto sviluppo dell’IA generativa, preservando la sicurezza e l’interesse pubblico.
Successivamente sostiene che l’intelligenza artificiale non debba promuovere odio razziale, discriminazioni, violenza, pornografia, fake news, terrorismo etc. Inoltre deve cercare di mantenere il più alto grado di trasparenza possibile per migliorare i servizi e la tutela nazionale.
Queste disposizioni, che possono sembrarci simili a quelle del GDPR, appaiono in linea con i valori occidentali. Tuttavia all’art. 3 dello stesso Provvedimento viene stabilito che i sistemi basati su IA generativa, come Ernie, devono aderire ai valori fondamentali del socialismo e non possono incentivare valori diversi che possano portare ad una sovversione del potere statale e all’abbattimento del sistema socialista.
Implicazioni morali delle IA generative
I modelli di IA generativa, non solo Ernie, devono farci sorgere alcuni dubbi e questioni etiche generali, che arrivano a toccare tematiche sociali importanti.
Una riflessione importante che possiamo fare è quella che mette a confronto, e soprattutto in dubbio, le metodologie di sviluppo delle IA generative occidentali.
Sicuramente l’Occidente additerà il sistema dell’IA vigente in Cina come manipolatorio, ma forse dovrebbero valutare anche gli altri punti di vista. Infatti è stata proprio la Cina a denunciare il rischio di manipolazione dell’opinione pubblica e di divulgazione dei dati pubblici da parte di ChatGPT.
Dunque l’unica cosa che si può evincere da queste critiche è che, probabilmente, entrambi i sistemi hanno bisogno di migliorare alcune falle in ambito di sicurezza, privacy e libertà.
