di Fabrizio Pinna. Sotto ogni quadro del Rinascimento, scrive Gouveia, c’è quel che lo spettatore non vede: l’underdrawing (il disegno preparatorio), il fondo di gesso, gli strati di pigmento la cui interazione rende lucida la superficie. «Quando i pittori dimenticavano il fondo, i colori si crepavano» (p. vii). Il rischio che segnala per il proprio campo è analogo: l’etica dell’intelligenza artificiale si sarebbe affrettata a perfezionare la superficie — liste di controllo, revisioni, valutazioni d’impatto, cruscotti — e «una superficie sana non può compensare un fondo debole» (p. vii).
Sommario
1. Il libro e la sua mappa
Cinquantasei saggi, quattordici sezioni di quattro capitoli ciascuna, novecento pagine, un indice analitico. Un’opera di questo formato raramente si legge per intero: più spesso la si consulta, in tempi diversi e selettivamente a seconda degli interessi. Ogni capitolo è concepito per stare in piedi da solo, e il lettore potrà aprire con frutto quelli che più lo stimolano, anche senza sapere nulla degli altri.
Il curatore è Steven S. Gouveia, dell’Istituto di Filosofia dell’Università di Porto, e il volume nasce nel quadro di un progetto finanziato dalla Fundação para a Ciência e a Tecnologia portoghese. La sua introduzione non è il consueto sommario di cortesia: è un programma, tenuto insieme da una metafora pittorica che conviene riferire, perché indica che cosa il curatore abbia cercato nei contributi.
Sotto ogni quadro del Rinascimento, scrive Gouveia, c’è quel che lo spettatore non vede: l’underdrawing (il disegno preparatorio), il fondo di gesso, gli strati di pigmento la cui interazione rende lucida la superficie. «Quando i pittori dimenticavano il fondo, i colori si crepavano» (p. vii). Il rischio che segnala per il proprio campo è analogo: l’etica dell’intelligenza artificiale si sarebbe affrettata a perfezionare la superficie — liste di controllo, revisioni, valutazioni d’impatto, cruscotti — e «una superficie sana non può compensare un fondo debole» (p. vii). Se l’IA è dipinta soltanto dentro contesti morali circoscritti e calibrata soltanto per superare i test di conformità, l’immagine dell’«IA centrata sull’umano» sarà «un trompe-l’œil: più o meno convincente da lontano, fragile da vicino» (p. vii).
Da qui quattro mosse, che il curatore indica come la struttura del libro: ristabilire il fondo (la meta-etica, e la pluralità morale come «caratteristica con cui ragionare, non imperfezione da eliminare per via ingegneristica», p. viii); correggere il disegno (i principi normativi, con la consapevolezza di ciò che il particolarismo morale implica per ogni regola senza eccezioni: «un buon disegno non elimina l’ambiguità; la colloca», p. viii); allargare la tavolozza (procedure partecipative ed emancipatorie, perché «l’ingiustizia strutturale non è soltanto rumore nell’insieme di dati», p. viii); ripensare lo studio (dal genio solitario a un atelier aperto). E una griglia a tre livelli — micro, il singolo sistema; meso, le istituzioni e gli incentivi; macro, i concetti stessi di agentività, conoscenza e responsabilità.
Le quattordici sezioni danno la misura dell’ampiezza: riflessioni meta-etiche; Antropocene; privacy e spiegabilità; giustizia; responsabilità; virtù aristoteliche; cura; medicina; politica; realtà virtuale, finanza e organizzazione aziendale; amicizia artificiale e senso della vita; arte e agentività morale; contesti riproduttivi, sociali e di rischio; approcci non occidentali.
Notevole è anche la geografia degli autori, inconsueta per un manuale anglofono del genere. Accanto a Porto — centro gravitazionale visibile — compaiono numerosi italiani (dalle Università di Pisa, Macerata, Milano, Napoli, Palermo, Ferrara, Roma), argentini, brasiliani, giapponesi, sudafricani, un autore dal Lesotho, una studiosa di Delhi, israeliani, rumeni, croati, irlandesi, olandesi, britannici, finlandesi, statunitensi, uno studioso di Hong Kong. Una mappa che rende anche visibile la fitta rete di rapporti tra centri universitari e di studio che continua a crescere anche in clima di rinascenti nazionalismi, paradosso apparente della nostra epoca. E le tradizioni chiamate in causa lo riflettono: accanto ad Aristotele, Kant, Rawls, Habermas, MacIntyre e Lévinas figurano Confucio e Mencio, l’ubuntu, l’omoluabi yoruba, il buddhismo dell’impermanenza e della co-originazione dipendente, le istituzioni consiliari basotho. Il curatore ha evidentemente cercato questa pluralità, e in più di un caso essa svolge lavoro argomentativo e non ornamentale.
Le lacune sono dichiarate nell’introduzione, e la dichiarazione va presa alla lettera. Gouveia scrive che il volume non offre trattazioni dedicate delle applicazioni militari «al di là di brevi cenni giuridici» (p. ix), né resoconti organici della sostenibilità computazionale e delle esternalità delle filiere di approvvigionamento, e ne attribuisce la responsabilità a vincoli di spazio e di tempo. Manca dunque il trattamento sistematico, non il tema: la seconda sezione è interamente dedicata all’Antropocene e vi si richiamano i costi materiali dell’IA — centri di calcolo, acqua di raffreddamento, litio, cobalto, terre rare — e un capitolo della quinta sezione misura la distribuzione mondiale della capacità di calcolo. Sul militare la lacuna è più netta, e un capitolo la registra con un’osservazione precisa: il regolamento europeo esclude dal proprio ambito i sistemi destinati a scopi militari, di difesa e di sicurezza nazionale, sicché il terreno su cui la delega della decisione si pone nella forma più acuta resta fuori tanto dalla norma quanto dal libro.
Con le parole di Gouveia: «We own this to constraints of space and time and with the expectation that companion work will address them in the near future. True to Leonardo da Vinci’s reminder that “art is never finished,” we offer this volume as a beginning of subsequent contributions to further work on both the questions addressed and those necessarily left beyond its scope.» (p. ix).
Dei cinquantasei saggi ne discuto qui cinque, appartenenti a sezioni diverse.
2. Mehmet B. Unver: la piramide rovesciata
«Re-aligning Value Alignment: A Metaethical Perspective on AI Ethics», cap. 1, pp. 1-16. L’autore insegna diritto all’Università dell’Hertfordshire e lavora su regolazione e governance dell’IA.
Il problema di Unver è preciso: perché l’etica dell’intelligenza artificiale, che produce linee guida in abbondanza, produce così poca riflessione sui fondamenti? La sua risposta non è che i suoi praticanti siano superficiali, ma che un assetto istituzionale li spinge in quella direzione.
L’argomento passa per una distinzione elementare e per una diagnosi. La distinzione è quella fra i tre rami dell’etica: la meta-etica si occupa dello statuto, della natura e della portata dei valori morali — che cosa costituisca la bontà, se esistano fatti morali, come sia possibile la conoscenza morale; l’etica normativa stabilisce principi e regole per l’azione; l’etica applicata affronta problemi concreti e circostanziati. Fra i tre esiste un ordine di fondazione: la meta-etica dovrebbe dare il terreno, la normativa le regole di valutazione, l’applicata la soluzione dei casi. La diagnosi è che il discorso contemporaneo rovescia questa piramide: si parte dai casi — il pregiudizio nell’algoritmo di assunzione, il dilemma dell’automobile autonoma, la privacy dei dati — e non si risale mai. Il risultato sono orientamenti frammentari, elaborati ad hoc e talvolta contraddittori fra loro, che non toccano le cause del disallineamento perché non ne interrogano i presupposti.
Fin qui si potrebbe obiettare che è la lamentela abituale del filosofo teorico verso l’etica applicata. La parte che dà forza al capitolo è la successiva, dove Unver indica il meccanismo. Il regolamento europeo sull’intelligenza artificiale è costruito come normativa di mercato: il suo scopo dichiarato è consentire la circolazione dei sistemi, e l’impianto a quattro livelli di rischio serve a stabilire a quali condizioni un prodotto può essere immesso. Ne segue che il segnale che il regolatore manda all’industria è che sarà soddisfatto se i prodotti risulteranno addestrati, testati e validati secondo norme tecniche riconosciute — la ISO/IEC 23894 sulla gestione del rischio, la ISO/IEC 42001 sui sistemi di gestione dell’IA, gli standard CEN-CENELEC — accompagnate dai relativi strumenti: valutazioni di conformità, monitoraggio post-commercializzazione, documentazione, obblighi di trasparenza, supervisione umana. E poiché conformarsi a una norma tecnica è assai meno costoso che interrogare valori contestati, la norma tecnica occupa lo spazio dell’etica. Unver cita una formulazione che non addolcisce: l’etica finirebbe per servire «a placare la critica e la pressione pubblica e a rifare l’immagine dell’IA europea, senza necessariamente garantire riforme etiche sostanziali all’interno dell’industria» (p. 7).
Il passaggio più solido è però un altro, e riguarda il perché la conformità non possa bastare in linea di principio e non solo di fatto. Unver lo costruisce triangolando tre riferimenti. I «pesi del giudizio» rawlsiani — la difficoltà intrinseca di comporre un disaccordo ragionevole in contesti morali complessi. L’argomento di Sen, per cui nessun insieme finito di principi può anticipare esaustivamente la salienza morale di tutte le circostanze possibili. E il particolarismo morale di Dancy, che contesta che il ragionamento morale sia codificabile in regole senza eccezioni. Messi insieme, i tre stabiliscono che un’architettura etica basata su regole non è semplicemente incompleta oggi: è incompleta per costituzione. Il che significa che il problema non si risolve allungando la lista dei requisiti, ed è esattamente ciò che l’approccio per conformità tenta di fare.
A questo Unver aggiunge una dimensione strutturale, prendendo da Iris Marion Young la nozione di ingiustizia strutturale — torti morali che non si riducono ad atti individuali, ma vanno compresi in termini di strutture sociali che espongono sistematicamente grandi gruppi a dominio, privazione o esclusione. Applicata alla governance dell’IA, la nozione indica dove guardare: le asimmetrie di potere nella definizione degli standard, nelle valutazioni di conformità, nel monitoraggio. Società civile e gruppi marginalizzati sono sottorappresentati in quelle sedi, e l’allineamento dei valori finisce plasmato in modo sproporzionato da priorità aziendali. L’osservazione che ne ricava è misurata e giusta: le tecnologie di IA «spesso non generano dilemmi giuridici o etici del tutto inediti, ma piuttosto espongono, aggravano o accelerano disuguaglianze strutturali di lunga data» (p. 8).
La proposta conclusiva — una «meta-etica regolatoria olistica» che combina meta-etica empatica, approccio emancipatorio, partecipazione democratica e smantellamento delle visioni dominanti ingiuste — è dove il capitolo si indebolisce, e per una ragione che vale la pena isolare perché è interna all’argomento.
La diagnosi ha appena stabilito che la formalizzazione dei valori è incompleta in linea di principio. Ma la «meta-etica empatica» che Unver adotta come primo pilastro della soluzione è, nella sua stessa esposizione, un programma di formalizzazione: analizzare gli algoritmi cognitivi umani per identificare e chiarire che cosa gli individui considerino giusto, risolvendo le contraddizioni interne al loro ragionamento morale, e fornire così «obiettivi morali quantificabili e azionabili» (p. 9). L’autore vede la tensione e non la nasconde: osserva che il ragionamento morale poggia su intuizione, sensibilità al contesto, intelligenza emotiva e saggezza non codificabile, e che questo «pone una sfida formidabile alla completa formalizzazione» (p. 9). E vi risponde in parte, riformulando l’allineamento come «apprendimento dei valori», processo iterativo e sensibile al contesto: un negoziato in corso non è una formalizzazione compiuta, e in questo senso l’obiezione è disinnescata. Resta però una tensione non sciolta fra il programma di ricavare «obiettivi morali quantificabili» e la tesi dell’incodificabilità di principio appena sostenuta: l’autore rinvia la questione alla ricerca interdisciplinare futura, che è un modo onesto di non deciderla.
La seconda riserva riguarda i rimedi istituzionali: valutazioni d’impatto etico che «integrino l’analisi meta-etica», standard adattivi anziché rigidi, comitati etici, giurie di cittadini, organismi interdisciplinari di revisione. Sono strumenti deliberativi, e non vanno confusi con quelli di conformità che il capitolo ha criticato: una giuria di cittadini non è una valutazione di conformità. Ma il capitolo ha appena spiegato che le procedure etiche vengono assorbite perché il quadro di mercato rende conveniente assorbirle, e non dice che cosa proteggerebbe le nuove sedi deliberative dalla medesima convenienza. La diagnosi individua un incentivo; la terapia propone istituzioni, senza toccare l’incentivo.
Resta, e non è poco, il contributo principale. La denuncia dell’etica come sigillo di approvazione non è nuova, e Unver non pretende che lo sia: si colloca nella letteratura sull’ethics-washing e sulla delega della sostanza normativa agli enti di standardizzazione. Ciò che aggiunge è la spiegazione del perché quella delega riesca: non per cattiva volontà, ma perché la conformità tecnica costa meno della riflessione, e perché manca il livello di discorso — quello meta-etico — in cui la differenza fra le due sarebbe visibile. È una diagnosi che si può mettere alla prova, e che indica dove guardare: negli organismi di normazione tecnica, più che nei documenti di principi.
3. João Cortese: la spiegabilità non è un principio
«On the Ethical Role of Explainability in Artificial Intelligence», cap. 11, pp. 171-188. L’autore lavora all’Università di San Paolo, con formazione in storia e filosofia della scienza.
Il capitolo si apre con un caso che vale l’intero argomento, e che il lettore dovrebbe conoscere anche se non legge altro. Un algoritmo addestrato a stimare il rischio di morte nei pazienti con polmonite apprese che gli asmatici avevano un rischio minore. La correlazione era reale: gli asmatici con polmonite venivano ricoverati direttamente in terapia intensiva, e infatti morivano meno. Un sistema che avesse usato quella regolarità per stabilire le priorità avrebbe rimandato a casa esattamente i pazienti più fragili. L’accuratezza del modello era alta e non avrebbe mai rivelato l’errore: lo rivelò la spiegazione. Cortese è scrupoloso e riporta anche la lettura opposta, secondo cui «se l’obiettivo è identificare i pazienti a maggior rischio di morire date le pratiche correnti, allora i sistemi che collocano gli asmatici a rischio inferiore non sono distorti» (p. 172, nota 2): il caso, cioè, dipende da quale sia lo scopo dichiarato del modello, e la disputa fa parte di ciò che lo rende istruttivo.
La domanda del capitolo, però, non è se la spiegabilità sia importante — è evidente che lo sia — ma quale sia il suo statuto. È un principio dell’etica dell’IA, come molti sostengono, o qualcosa d’altro? La tesi di Cortese è che non sia un principio, e l’argomento per sostenerla è di quelli che chiariscono il terreno.
Prima però il capitolo fa un lavoro di sgombero terminologico che è utile in sé. «Spiegabilità», «esplicabilità», «interpretabilità», «trasparenza», «intelligibilità» sono usati in modi diversi nella letteratura tecnica e in quella etica, e la domanda su come si rapportino ha, scrive l’autore, una risposta immediata e scomoda: dipende. Riporta le definizioni ISO (interpretabilità come livello di comprensione di come funzioni la tecnologia sottostante; spiegabilità come livello di comprensione di come il sistema sia giunto a un dato risultato), la distinzione di Lipton fra interpretabilità post-hoc e trasparenza intrinseca, la coppia di Floridi (intelligibilità: «come funziona?»; accountability: «chi risponde di come funziona?»; p. 175), la differenza fra spiegazioni locali e globali. E ricorda, con Miller, che cosa valga come spiegazione in generale: le spiegazioni sono contrastive (non si chiede perché sia accaduto P, ma perché P anziché Q), sono selettive, sono fenomeni sociali relativi alle credenze di chi spiega sulle credenze di chi ascolta. Il che significa che una spiegazione intesa come conoscenza di ogni bit del modello non è semplicemente difficile: è la richiesta sbagliata.
Da qui il modello a quattro livelli che Cortese riprende da Ursin e colleghi, e che trovo la parte del capitolo più immediatamente utilizzabile fuori dalla filosofia. I livelli sono: sapere che un algoritmo è stato usato; capire come funzioni quel tipo di sistema in generale; capire come funzioni quel particolare sistema; capire perché abbia deciso in quel modo in quel caso. A ciascuno corrisponde un tipo diverso di ostacolo e un obbligo diverso — rispettivamente: non ingannare; comunicare rischi e benefici generali; identificare i rischi individuali e di gruppo; essere preparati al disaccordo fra pari. E un criterio di proporzionalità governa quanti livelli siano dovuti: «più una decisione medica è invasiva, maggiore è il suo effetto sulla qualità della vita, e meno è reversibile, più livelli di esplicabilità dovrebbero essere forniti» (p. 178).
La sezione centrale risponde a due obiezioni, entrambe serie, ed è qui che il capitolo mostra la sua qualità.
La prima è l’obiezione del «tutto è una scatola nera»: quasi nessuno sa come funzioni il proprio telefono o la propria automobile, dunque l’opacità dei modelli non è una novità. Cortese risponde con una distinzione che regge: nel caso dell’automobile esiste una divisione epistemica del lavoro. L’utente profano non sa spiegare, ma in caso di incidente c’è un perito che sa, e la responsabilità viene trattata attraverso quella divisione. Con l’apprendimento automatico la scatola è nera per tutti, anche per chi l’ha costruita, e non c’è perito cui rivolgersi. Non è un’opacità più intensa: è un’opacità di altra specie, e in questo senso pone un problema nuovo. L’autore è attento a distinguerla, in nota, dall’opacità dovuta al segreto commerciale o militare, che non appartiene alla tecnologia ma a scelte su di essa — precisazione doverosa, anche se lascia fuori dal capitolo una quota rilevante dell’opacità effettiva.
La seconda obiezione è più insidiosa e viene da uno scambio comparso su una rivista medica, che Cortese ricostruisce. Un gruppo di autori aveva chiesto standard per i riassunti clinici generati da modelli linguistici, segnalando tre rischi: variabilità degli esiti, distorsione da conferma indotta dalle istruzioni, ed errori da «completamento della narrazione», quando l’aggiunta di una parola produce un errore piccolo ma clinicamente significativo. La replica sosteneva che «gli autori umani presentano le stesse carenze» e che pretendere dall’IA una prestazione ideale è «simile a una discriminazione» (p. 181). La controreplica respingeva l’accusa. La stessa struttura si trova nella posizione, assai citata, secondo cui in medicina conta l’accuratezza e non la spiegazione, perché nemmeno i medici forniscono spiegazioni causali complete.
La risposta di Cortese non tenta di negare la premessa — è vero che gli esseri umani non spiegano tutto — ma sposta il criterio dal quantitativo al qualitativo. Ciò che conta non è il tasso di spiegazioni fornite, ma i tipi di errore che una società è disposta ad accettare. Anche senza spiegare tutto, sappiamo delegare responsabilità sulla base del rischio e della competenza, e distinguiamo gli errori riparabili — un prodotto venduto nel colore sbagliato — da quelli da evitare in assoluto, come una selezione discriminatoria per un posto di lavoro. Un algoritmo di triage che salvasse più vite ma che, per mancanza di spiegazione, potesse nascondere un pregiudizio contro un gruppo etnico non sarebbe accettato, e non perché spieghi meno di un medico.
L’argomento è corretto ma programmatico, e l’autore lo ammette: «questo aspetto del problema può essere ulteriormente sviluppato in lavori futuri» (p. 182). Manca cioè un criterio per stabilire quali tipi di errore siano intollerabili, e il richiamo a un principio di precauzione lavora senza essere difeso. È il limite del capitolo, ed è dichiarato.
Resta la tesi, e prima un dato che Cortese riporta da una rassegna su duecento documenti di indirizzo: centosessantacinque di essi contengono la triade trasparenza/spiegabilità/verificabilità, e il principio dominante è cambiato di anno in anno — equità nel 2014, responsabilità nel 2016, trasparenza dal 2018. I principi, insomma, si sono moltiplicati senza rigore rispetto a un quadro etico. Una proposta influente aveva cercato di ridurne il numero riprendendo i quattro principi della bioetica di Beauchamp e Childress (beneficenza, non maleficenza, autonomia, giustizia) e aggiungendovi l’esplicabilità come quinto, specifico dell’IA. Cortese contesta l’aggiunta, e l’argomento è semplice: se la spiegabilità è ciò che rende possibile applicare gli altri quattro, allora è un requisito epistemico perché quei principi valgano, non un principio accanto ad essi. Qualcosa può essere moralmente desiderabile senza per questo essere un principio etico.
La conseguenza è più pratica di quanto sembri, ed è il motivo per cui la distinzione merita attenzione. Se la spiegabilità è un principio, allora «usare un algoritmo inspiegabile che salva più vite oppure uno spiegabile che ne salva meno» è un conflitto fra due principi, e si tratta di bilanciarli. Se invece è un requisito epistemico, il conflitto cambia forma: la domanda diventa se, senza spiegazione, siamo in condizione di sapere che la beneficenza sia servita. E il caso degli asmatici, in apertura, è la risposta: talvolta non lo siamo, e l’accuratezza non ce lo dice. Il capitolo è costruito bene perché l’esempio iniziale è la dimostrazione della tesi finale.
Un merito ulteriore, di servizio: Cortese nomina esplicitamente i due schieramenti del dibattito e colloca sé stesso in uno dei due, cosicché il lettore che voglia entrarvi sa da dove cominciare. E registra in nota, con la cautela di un «forse», che la posizione di Floridi sullo statuto dell’esplicabilità potrebbe non essere del tutto costante attraverso le sue pubblicazioni: principio abilitante nel 2018, «non un principio morale ma di secondo ordine» in un lavoro del 2020 che lo annovera fra gli autori, mentre un testo del 2009 negava alla trasparenza lo statuto di principio chiamandola «condizione pro-etica», e nel 2023 l’esplicabilità torna principio (p. 184, nota 33). È il genere di annotazione che in un manuale ha valore.
4. Keith Begley: tre modi di non sapere
«Epistemic Defeat and the Ethics of Machine Learning», cap. 14, pp. 217-228. L’autore è al Trinity College di Dublino e lavora su epistemologia e filosofia antica; parte della ricerca discussa nel capitolo nasce da una collaborazione con ricercatrici di ostetricia.
È il più breve dei cinque saggi, e il più circoscritto: fa una cosa sola, e la fa fino in fondo. La cosa è distinguere fenomeni che discutiamo sotto un’unica parola.
Begley comincia sgombrando il campo da un equivoco che, osserva, circola soprattutto nella stampa. «Scatola nera» è termine ereditato dalla cibernetica, dove indicava dispositivi il cui meccanismo è materialmente nascosto all’operatore — e Ashby, che ne trattò, includeva tanto la scatola extraterrestre caduta da un’astronave quanto la maniglia di una porta. Applicato all’apprendimento automatico, il termine genera l’immagine dello scienziato che non sa che cosa abbia costruito. Begley la corregge con fermezza: nell’apprendimento automatico quasi nulla è nascosto. La struttura della rete, i pesi, l’algoritmo di apprendimento, gli iperparametri sono tutti determinabili e registrabili, e l’informatico ne sa molto più del profano. Se dunque c’è opacità, non è di quel tipo.
Di quale tipo, allora? Riprende da Burrell la distinzione fra l’opacità che deriva dal mancato possesso di una competenza specialistica e quella che deriva «dalla discrepanza fra l’ottimizzazione matematica in alta dimensionalità, caratteristica dell’apprendimento automatico, e le esigenze del ragionamento su scala umana e degli stili umani di interpretazione semantica» (p. 218). E da Boge la distinzione fra opacità del come — in che modo la rete modifica la funzione in risposta ai dati — e opacità del che cosa — che cosa la macchina abbia appreso —, osservando che la seconda importa di più all’utente finale, perché è ciò che la rete ha appreso a diventare operativo.
Su questa base costruisce il proprio contributo, che comincia da una distinzione fra due letture della domanda «perché?». La prima chiede una spiegazione in termini di meccanismo causale, e si può dare: discesa stocastica del gradiente, retropropagazione dell’errore, regola della catena applicata strato per strato, e volendo la stampa di ogni singolo peso e di ogni operazione matriciale eseguita su quell’input. «Non è di solito particolarmente difficile da fornire, per chi sa» (p. 220). La seconda chiede le ragioni o la giustificazione: che cosa significhi quell’esito rispetto al dominio in cui l’algoritmo è applicato. E qui sta la tesi:
«anche se possiamo conoscere la spiegazione nei termini della prima lettura, cioè una spiegazione del meccanismo causale che includa tutti i parametri di un modello, possiamo comunque non avere accesso alle ragioni e alla giustificazione della previsione, classificazione, decisione o giudizio del modello» (p. 220).
La spiegazione che Begley ne dà è il passaggio decisivo. Le ragioni che compaiono nel nostro ragionare hanno una connessione determinabile con le cose del nostro mondo; i fattori interni di un modello, invece, esistono in virtù dell’operare di un algoritmo di ottimizzazione che ha stabilito che essi forniscono gli elementi di una funzione meramente efficace dagli ingressi alle uscite. Anzi, la capacità di sfruttare regolarità che altrimenti giudicheremmo deboli fa parte del modo stesso in cui le reti neurali operano. «Questo processo non necessita di alcuna relazione particolare fra i parametri di un modello e gli oggetti e le categorie che ci sono familiari» (p. 220). L’immagine che usa per dirlo è efficace: nei primi strati di una rete convoluzionale addestrata a riconoscere cifre manoscritte si riconoscono ancora forme legate ai numeri; gli strati successivi sono «uovo strapazzato» — uovo passato attraverso trasformazioni non lineari — e non si lasciano decifrare se non con grande difficoltà, ammesso che si possa.
A questo punto Begley importa uno strumento dall’epistemologia: la nozione di sconfitta epistemica nella definizione di Chisholm — un defeater è una proposizione tale che, se la si credesse, non si dovrebbe più ritenere di avere conoscenza in un caso in cui si credeva di averne. L’esempio classico è l’orologio fermo di Russell: l’orologio segna le due, sono davvero le due, la credenza è vera e giustificata, ma non è conoscenza, perché l’orologio si è fermato e si è stati soltanto fortunati a guardarlo in quell’istante.
Su questa base costruisce una tassonomia in tre voci. I defeater trasparenti sono quelli che è possibile, in pratica, arrivare a conoscere: che l’orologio si sia fermato lo si scopre osservandolo, ascoltandone il ticchettio, aprendolo. Vi rientrano anche i pregiudizi e le influenze umane, spesso taciti: che un clinico sia influenzato dal fatto di essere pagato di più dall’assicurazione per eseguire un intervento anziché non eseguirlo è qualcosa che è possibile dichiarare, o far emergere con uno studio statistico. I defeater opachi sono quelli difficili o impossibili da conoscere in pratica: tipicamente il modello non fornisce ragioni per il contenuto dei propri esiti, sicché chi lo segue non ha accesso alla giustificazione del proprio stesso giudizio. Vi rientra anche il caso in cui il modello produce di norma la risposta giusta per ragioni sbagliate o spurie: abbiamo motivo di ritenerlo affidabile e siamo semplicemente fortunati. I defeater ereditati, infine, sono la categoria propria di Begley: pregiudizi trasparenti che esistono nel mondo e che, codificati nei dati di addestramento, diventano opachi dentro il modello. «I defeater trasparenti alla nostra conoscenza divengono defeater ereditati opachi» (p. 224).
Prima di applicarla, l’autore compie una distinzione che troppo spesso si salta: non tutto il pregiudizio algoritmico è dello stesso tipo. Lo squilibrio di classe — poche donne nei dati di un sistema di reclutamento — riguarda una proprietà dell’insieme di dati nel suo complesso, si osserva facilmente, spesso si manifesta in squilibri visibili negli esiti e si mitiga con procedure standard. Ben più insidioso è il caso in cui sono i singoli dati etichettati a portare il pregiudizio — quello di chi li ha etichettati — perché lì non c’è squilibrio di classe che segnali qualcosa, e spesso non c’è accesso indipendente alla verità dei fatti che permetta di smentire l’etichetta. È questo il bersaglio.
Il caso principale viene dalla ricerca ostetrica ed è esposto con cura. I tracciati cardiotocografici prodotti dal monitoraggio fetale elettronico sono notoriamente difficili da leggere anche per i professionisti formati, al punto che la ricerca di settore ne sconsiglia l’uso nelle gravidanze a basso rischio: se un tracciato viene letto come indicativo di una patologia, la situazione si medicalizza rapidamente e ne può seguire una cascata di interventi, con aumento dei tagli cesarei e quindi della morbilità. Verrebbe da pensare che qui l’apprendimento automatico possa aiutare. Ma una rete addestrata su tracciati etichettati dagli ostetrici non produce un miglioramento significativo — in parte perché le etichette sono talvolta errate, essendo i tracciati difficili anche per gli esperti, e in parte perché le decisioni degli ostetrici sono soggette a influenze note: essere pagati di più dall’assicurazione per eseguire un cesareo, essere uomini, o desiderare, a notte fonda e dopo un turno lungo, di eseguirlo subito e andare a dormire. Il modello impara a imitare il comportamento classificatorio di una coorte soggetta a queste influenze.
L’analisi epistemica che ne segue è il passaggio che trasforma la tassonomia in argomento. Senza il modello, l’influenza economica sull’ostetrico è un defeater trasparente alla conoscenza della paziente: la paziente crede di ricevere una diagnosi fondata su competenza ed esperienza, e non la riceve; e che la diagnosi risulti poi corretta o no, non la conosce, perché a sua insaputa è influenzata. Con il modello, il defeater prossimo è insieme opaco ed ereditato. E qui viene la prova che i due sono fenomeni distinti e non due nomi per la stessa cosa: si immagini di sostituire il processo opaco con uno trasparente, di cui si conoscano le ragioni. La sconfitta epistemica resterebbe ereditata, ma non sarebbe più opaca. Il controfattuale separa le due nozioni, ed è ciò che rende la distinzione un risultato e non un’etichetta.
Il secondo caso — la polizia predittiva addestrata su «dati sporchi», cioè dati derivati da pratiche corrotte, distorte o illegali — ripete la struttura e vi aggiunge una torsione: gli agenti funzionano come etichettatori impliciti dei dati, e le azioni intraprese sulla base delle previsioni rientrano a loro volta nell’addestramento, sicché la sconfitta può risultare ereditata più volte, in un circuito di retroazione che ne intensifica l’effetto.
La conclusione pratica è la ragione per cui questo saggio andrebbe letto da chi progetta sistemi e non solo da chi li commenta. Molto lavoro si sta facendo contro l’opacità, per via di spiegazione a posteriori o di modelli trasparenti per costruzione. Ma la sconfitta ereditata richiede un rimedio diverso, perché rendere visibile il ragionamento del modello non rende visibile la provenienza di quel ragionamento. Il rimedio è umano e sta a monte: indagare le influenze tacite nel momento dell’etichettatura e della raccolta. E il caso peggiore è proprio quello in cui non ci sono squilibri vistosi negli esiti che facciano scattare l’allarme.
I limiti sono due, e il secondo l’autore lo dichiara. Il primo: l’affermazione che l’addestramento su tracciati etichettati dagli ostetrici «non porta a un miglioramento significativo» è il perno empirico dell’esempio, e nel punto in cui compare (p. 225) non porta un riferimento: il lettore deve risalire alla collaborazione del 2021 da cui il capitolo dichiara di nascere. Il secondo: una quarta categoria di sconfitta epistemica, quella dovuta a sottodeterminazione, viene rinviata due volte a lavori futuri, sicché la tassonomia è dichiarata incompleta dal suo autore. C’è poi un problema che il capitolo genera e non risolve, ed è il suo problema più interessante: se la sconfitta ereditata non lascia firma negli esiti, come la si rileva? Begley lo nomina con precisione. Nominarlo è già un contributo.
5. Balmaceda, Belli e Pérez: che cosa si fa con un falso
«How to do things with Deepfakes: Problematic Uses of Generative Artificial Intelligence», cap. 35, pp. 541-556. Gli autori appartengono all’Istituto di Ricerche Filosofiche della Società Argentina di Analisi Filosofica e al CONICET; Diana Pérez insegna all’Università di Buenos Aires.
Il titolo cita Austin — Come fare cose con le parole — e la citazione non è un ornamento: annuncia la mossa del capitolo, che consiste nello spostare la domanda. Non «questa immagine è falsa?», ma «che atto si compie diffondendola?».
Prima di arrivarci, gli autori fanno un lavoro documentario che da solo giustifica la lettura. Ricostruiscono la genealogia tecnica: il rimontaggio di un parlante su una traccia audio diversa già nel 1997; il modello statistico di forma e apparenza presentato nel 1998; la piattaforma che nel 2016 consentì di scambiare in tempo reale la zona della bocca fra due video, usata l’anno dopo per il noto video in cui Obama insulta Trump; il funzionamento di autoencoder e reti generative avversarie; i materiali necessari, raccolti da piattaforme video, social e motori di ricerca; l’hardware, ormai domestico. Elencano i cinque fattori da cui dipende il realismo, e riportano un dato sperimentale del 2023 che andrebbe ricordato: avvertiti che almeno uno su cinque video era manipolato, solo il 21,6 per cento degli intervistati individuava quello giusto, e quasi metà indicava come falso almeno un video autentico (p. 543). Di qui il fenomeno che la letteratura chiama «dividendo del bugiardo»: man mano che il pubblico impara dell’esistenza dei falsi, diventa disposto a dubitare di qualunque registrazione, e chi ha interesse a farlo può screditare una prova genuina.
Il caso che gli autori portano a illustrazione è istruttivo, e conviene riferirlo per esteso perché rovescia l’intuizione corrente. In Gabon, alla fine del 2018, il presidente Ali Bongo era assente da mesi; dopo comunicati contraddittori sulle sue condizioni — prima «grave affaticamento», poi un’emorragia, infine l’ammissione di un ictus — il 31 dicembre fu diffuso un video di auguri di fine anno (pp. 550-551). La rigidità della postura e la scarsa qualità della registrazione indussero esponenti dell’opposizione a sostenere che si trattasse di un sosia o di un falso sintetico, e la versione si diffuse. Due verificatori indipendenti conclusero in seguito che il video era probabilmente autentico. Ma pochi giorni dopo, nel gennaio 2019, un gruppo di militari occupò la radio pubblica per annunciare un colpo di Stato, sostenendo che Bongo non fosse in grado di governare o fosse morto. Il tentativo fallì, ma gettò le istituzioni in crisi. Gli autori formulano la lezione senza enfasi: non è necessario che un video sia falso perché produca sfiducia. La mera possibilità della manipolazione basta.
L’impianto normativo del capitolo poggia su tre condizioni congiunte per un uso lecito: che si impieghi l’immagine o la voce della persona con il suo permesso; che l’uso sia moralmente corretto — educativo, artistico, terapeutico — e che sia chiaro al destinatario che si tratta di una riproduzione sintetica; che non siano violati diritti. I due casi su cui il capitolo si concentra, la sessualizzazione non consensuale e la manipolazione politica, violano tutte e tre.
Sul consenso l’analisi è più fine di quanto la formula lasci intendere. Gli autori osservano che lo standard corrente — i «termini e condizioni» — non soddisfa quasi nessuno dei requisiti che le teorie del consenso pongono come fondamentali: la possibilità di rifiutare è fortemente limitata, perché si tratta spesso di servizi necessari alla vita sociale, dal lavoro alle pratiche amministrative; e la trasmissione dell’informazione è gravemente difettosa, fra linguaggio tecnico-giuridico e documenti di decine di pagine. Ma l’argomento decisivo è un altro, e riguarda la portata del consenso: acconsentire alla diffusione di una propria immagine in un contesto non significa acconsentire a ogni suo uso possibile. E ciò che fonda il requisito del consenso è l’identificabilità della persona ritratta; se dunque un falso sintetico mostra una persona identificabile, ne occorre il consenso perché sia diffuso. Da qui gli autori articolano i diritti in gioco: la privacy, perché quelle immagini ricreano situazioni socialmente riconosciute come private; la reputazione, perché veicolano una menzogna su chi vi compare; e un diritto meno ovvio, quello a non vedersi alterata la propria identità sociale, cioè la facoltà di decidere in quali relazioni e davanti a chi mostrarsi in un certo modo.
Il centro teorico del capitolo è però la sezione sugli atti comunicativi, e va seguita nei suoi passaggi. Gli autori distinguono anzitutto l’uso strettamente privato — un falso tenuto per sé sarebbe come un disegno in un diario intimo, e nel caso sessuale non diverso da una fantasia — dalla diffusione, che è il caso normale e che costituisce un atto comunicativo. Poi scartano la lettura che tratterebbe queste immagini come semplicemente «offensive», il cui carattere dipenderebbe dalla sensibilità di chi le riceve. L’analogia che propongono è con gli epiteti denigratori: quando qualcuno usa un termine razzista, il carattere offensivo non dipende dalla suscettibilità individuale ma da caratteristiche strutturali della società in cui viviamo. Poiché però qui si tratta di immagini e non di parole, propongono di guardare non alla semantica ma alla pragmatica: al tipo di atto che si compie pubblicando. Convocano allora la letteratura sugli atti linguistici denigratori — il «tono» pregiudizievole come modo specifico di compiere l’atto illocutorio; la proposta di riconoscere un atto a sé, l’«insultare»; e la tripartizione delle forze illocutorie del discorso d’odio in propaganda, attacco e discorso di subordinazione autoritativa, cui si aggiunge, dal dibattito sulla pornografia, l’atto di ridurre al silenzio. La conclusione è che collocare la questione sul terreno della forza dell’atto comunicativo introduce una dimensione etica ulteriore, «dato che azioni come insultare, attaccare o ridurre al silenzio sono esse stesse azioni eticamente riprovevoli» (p. 549).
Questa mossa conta per una ragione precisa. Se il male del falso sintetico consiste nell’ingannare, la posta è la verità e il rimedio naturale è l’etichettatura: si segnali che il contenuto è generato, e il danno è neutralizzato. Se invece l’atto compiuto è un insulto, un attacco o una subordinazione, l’etichetta non lo neutralizza, perché un insulto dichiarato resta un insulto. È una conseguenza che gli autori non traggono esplicitamente — nelle loro tre condizioni la dichiarazione della natura sintetica resta un requisito — ma che discende dalla cornice che propongono, e che a mio avviso costituisce la ragione principale per adottarla: sposta il baricentro delle politiche dall’informazione del destinatario alla qualificazione dell’atto.
Il capitolo aggiunge una tipologia dei danni ripresa da Rini e Cohen, in tre voci di cui la seconda è particolarmente acuta: la dominazione virtuale, per cui l’autonomia di una persona è invasa dall’essere rappresentata in situazioni fabbricate cui non ha acconsentito; il danno illocutorio, per cui la vittima è costretta a compiere atti linguistici involontari — deve smentire, deve spiegare, deve parlare di ciò di cui non voleva parlare; e il trauma esistenziale prodotto da un «gaslighting panottico», quando memoria e identità sono minate da una moltitudine di falsi mirati.
Nella conclusione gli autori costruiscono un caso contro il proprio criterio. Alle elezioni di Delhi del 2020 un partito produsse falsi sintetici del proprio candidato, facendogli pronunciare messaggi in lingue che non padroneggia, e li diffuse tramite messaggistica. Il consenso dell’interessato c’era; l’uso non era denigratorio; nessun diritto risulta violato. Eppure qualcosa non torna, e gli autori individuano che cosa: non era chiaro al destinatario di guardare un video alterato, sicché la credenza che il candidato parlasse la sua lingua era indotta con l’inganno. E aggiungono l’osservazione che salva il caso dalla pedanteria: si potrebbe pensare che conti il contenuto e non la lingua, «ma tutti sappiamo che quando si tratta di questioni che riguardano le identità — etniche, religiose, politiche, di genere — la lingua conta» (p. 554). Mettere alla prova il proprio criterio su un caso che esso non risolve in modo netto è segno di lavoro serio.
Due riserve. La prima è che il trasferimento dell’apparato austiniano dalle parole alle immagini è asserito più che argomentato: gli autori scrivono che «benché il contenuto di questo tipo di immagini non sia linguistico, è interessante pensare questi atti comunicativi con immagini in parallelo a vari tipi di atti linguistici» (p. 548). «Interessante pensare in parallelo» non è però una dimostrazione che la nozione di forza illocutoria si trasferisca. Resterebbe da mostrare che le immagini possiedono qualcosa come la forza convenzionale che Austin attribuisce alle formule linguistiche, e che cosa ne assicuri la ricezione — questione discussa, e non liquidabile in un’analogia. Una nota, che richiama un lavoro sul perché le fotografie inducano credenze forti sull’esistenza di ciò che mostrano, indica la direzione senza percorrerla. Poiché è su questo trasferimento che poggia l’intero contributo teorico del capitolo, avrebbe meritato più spazio di quanto gliene sia stato dato.
La seconda è minore ma vale come avvertenza al lettore: la stima secondo cui circa il 96 per cento dei falsi sintetici in rete sarebbe pornografico proviene da un rapporto privato del 2019 (p. 546, nota 3), ed è riportata come se descrivesse la situazione attuale.
6. Benjamin Gregg: chi dovrebbe fare qualcosa
«Humanity’s Moral Burden: As AI Advances, Responsibility Escalates», cap. 17, pp. 257-272. L’autore insegna teoria politica all’Università del Texas ad Austin, e ha lavorato sui diritti umani e sulle sfide politiche dell’ingegneria genetica. La provenienza disciplinare si sente.
La domanda di Gregg non è che cosa siano questi sistemi né quali principi debbano rispettare, ma se una comunità politica conservi la capacità di determinare da sé le proprie norme quando decisioni consequenziali sono prese da procedure di cui nessuno è in grado di rendere conto. Formula la cosa con una precisazione che va apprezzata: l’intelligenza artificiale non sfida l’autodeterminazione politica intrinsecamente, ma soltanto in modo contingente — e infatti può migliorare la vita, con diagnostica rapida, ottimizzazione del traffico, personalizzazione didattica, tanto quanto può degradarla. La questione è dunque a quali condizioni accada l’una o l’altra cosa, e quali istituzioni possano fare la differenza.
Il capitolo procede su quattro dimensioni. Sul piano dell’ordinamento algoritmico, parte da un caso del 2021 — un profilo registrato come quello di una tredicenne al quale l’algoritmo servì contenuti sempre più estremi su diete e disturbi alimentari, in violazione delle regole della piattaforma stessa, mentre documenti interni trapelati mostravano che l’azienda sapeva del peggioramento dell’immagine corporea in una ragazza su tre fra quelle già in difficoltà, e rimandò di mesi la riforma del sistema di raccomandazione. Da qui l’argomento propriamente politico, che nel volume è raro: alcune grandi imprese tecnologiche operano secondo modelli di primato dell’azionista che antepongono il profitto alla responsabilità democratica, e i loro dirigenti governano il disegno e il perfezionamento di algoritmi che regolano l’accesso all’informazione, alle opportunità e all’influenza. Gregg chiama questa condizione «governo mediante algoritmo» e ne trae la formula che conta: quelle imprese esercitano «un potere quasi sovrano su aspetti chiave della vita economica e sociale», essendo però soggetti privati «in larga misura esenti dai contrappesi che vincolano le istituzioni pubbliche» (p. 259).
Il rimedio che propone non è un principio ma un’architettura, e la indica in un testo esistente: il regolamento europeo sui servizi digitali, di cui elenca gli elementi — obblighi graduati per dimensione e funzione della piattaforma, divulgazione algoritmica, archivi pubblici degli annunci, relazioni periodiche di trasparenza, procedure di segnalazione e azione, meccanismi di ricorso, segnalatori attendibili, divieto di interfacce ingannevoli, tutele rafforzate per i minori; e, per le piattaforme oltre i quarantacinque milioni di utenti europei, valutazioni annuali del rischio, revisioni indipendenti e accesso ai dati per i ricercatori, con sanzioni fino al sei per cento del fatturato mondiale. Non lo presenta come soluzione, ma come modello di infrastruttura istituzionale eventualmente adattabile altrove.
La seconda dimensione riguarda sanità e servizi sociali, e vi compare il caso più netto del capitolo. Nel 2019 fu scoperto che un algoritmo di previsione sanitaria largamente impiegato negli Stati Uniti sottostimava i bisogni dei pazienti neri, perché usava la spesa sanitaria come indicatore indiretto del bisogno sanitario. Poiché i pazienti neri storicamente spendevano meno per barriere sistemiche, il sistema li valutava più sani di pazienti bianchi con profilo clinico analogo, mentre spesso avevano condizioni più gravi; l’effetto fu di raccomandare loro in media circa metà delle cure. È un esempio che merita di essere tenuto a mente perché il pregiudizio non sta né nel codice né nella composizione del campione, ma nella scelta della variabile: nessuna verifica di equità sui dati lo avrebbe intercettato senza interrogare che cosa la spesa stesse misurando.
La terza dimensione è la più interessante sul piano argomentativo. Gregg parte dall’episodio del 2022 in cui un ingegnere sostenne pubblicamente che un sistema conversazionale fosse senziente, e osserva che l’interesse del caso non sta nella presunta vita interiore della macchina ma nella tendenza umana a proiettare coscienza e statuto morale su ciò che imita il comportamento umano. La sua tesi è che «La responsabilità, sia in senso morale sia legale, affonda le sue radici nelle capacità degli esseri coscienti. La responsabilità è un fenomeno della coscienza umana.» (p. 263). Ne elenca i requisiti: richiede consapevolezza di sé, è costruita attraverso il significato, è relazionale e sociale, ed è interpretativa — riflettiamo sulle azioni alla luce di norme, valori e intenzioni, mentre un sistema calcola su ingressi e dati di addestramento, non su significati. Può segnalare una situazione come «non sicura» in base a punteggi di probabilità, ma non comprende perché sia sbagliata, dannosa o ingiusta.
Fin qui la tesi è nota. Ciò che Gregg vi aggiunge, e che gli viene dal mestiere di teorico politico, è la trasformazione della questione dello statuto morale da questione metafisica a questione distributiva. Attribuire agentività morale alle macchine, scrive, oscurerebbe la catena delle decisioni umane; permetterebbe a chi commette un torto di sottrarsi allo scrutinio incolpando una macchina; e — questo è il punto — «sposterebbe attenzione e risorse lontano da coloro che subiscono danni reali, spesso comunità marginalizzate colpite da algoritmi distorti o predatori, e verso i diritti immaginari di esseri simulati» (p. 265). La domanda smette di essere se la macchina abbia interessi e diventa dove vadano a finire l’attenzione pubblica e le risorse. Nello stesso movimento Gregg osserva che l’impulso antropomorfico «distoglie dal lavoro e dall’economia politica che stanno dietro l’IA» (p. 266): dietro ogni sistema conversazionale ci sono migliaia di lavoratori verosimilmente sottopagati che etichettano dati, moderano contenuti, mantengono infrastrutture, spesso in condizioni di sfruttamento. Trattare il sistema come entità autonoma rende invisibile quel lavoro.
A questo si lega la nozione, ripresa da Madeleine Elish, delle «zone di deformazione morale»: situazioni in cui la responsabilità viene assorbita dagli esseri umani più vicini all’operazione del sistema, che però sono precisamente quelli che meno lo controllano. La formula è utile perché nomina un esito che si osserva regolarmente — l’operatore sanzionato, il progettista intoccato — e lo collega a una causa strutturale anziché a una casualità.
La quarta dimensione allarga lo sguardo alla scala globale, e vi compaiono i dati che mancano altrove nel volume: le piattaforme di credito su telefono mobile nei paesi a reddito basso e medio, che usano indicatori comportamentali invece di criteri trasparenti e colpiscono chi è già escluso dal sistema finanziario formale; una ricerca secondo cui in India le donne di casta inferiore restano svantaggiate nell’accesso al credito anche a parità di segnali visibili di competenza imprenditoriale; i punteggi algoritmici che in India e in Kenya consolidano gerarchie sociali sotto veste di innovazione. E la diagnosi istituzionale: la regolazione reattiva non può tenere il passo di sistemi che apprendono e si adattano; occorre una governance anticipatoria.
È nella parte finale che Gregg formula la proposta più concreta del capitolo, e riguarda un documento che il lettore italiano conosce. La Raccomandazione UNESCO del 2021 sull’etica dell’intelligenza artificiale (pp. 268-269) ha un approccio globale e fondato sui valori, con richiami a diritti umani, sostenibilità e democrazia; ma resta uno strumento di soft law, e Gregg ne elenca le quattro debolezze senza giri di parole: assenza di applicabilità coercitiva e di monitoraggio; dipendenza da un’attuazione nazionale volontaria; disposizioni vaghe, aperte all’ethics-washing; e un potere aziendale che eccede quello di molti degli Stati che dovrebbero applicarla. La proposta è di conservarne la visione etica innestandovi il rigore istituzionale dei regimi climatici e di controllo degli armamenti: un organismo globale di monitoraggio sul modello dell’IPCC, incontri internazionali periodici sul modello delle conferenze delle parti, e responsabilità differenziate, calibrate sulle diverse capacità nazionali.
Il capitolo ha i difetti del suo genere. È una rassegna con raccomandazioni, non una dimostrazione: quattro dimensioni percorse rapidamente, ciascuna con la propria letteratura compressa, e sedici punti elencati in chiusura. Alcune raccomandazioni sono formulate a un livello che le rende difficili da contestare e altrettanto difficili da attuare — «vietare le variabili indirette, come la spesa sanitaria, che perpetuano il pregiudizio sistemico» (p. 269): ma quasi ogni variabile è indiretta rispetto a qualcosa, e il caso citato fu scoperto perché dei ricercatori andarono a guardare, non perché esistesse un divieto. Quali indicatori, vietati da chi, rilevati come? C’è poi un problema di aggiornamento che in un volume del 2026 pesa: Gregg parla del regolamento europeo come di una «proposta» del 2021, mentre il testo è stato adottato nel 2024 e altri capitoli dello stesso libro lo analizzano nella versione vigente. Per un saggio il cui tema è la capacità istituzionale, essere indietro di un ciclo legislativo sullo strumento principale non è un dettaglio formale.
Ciò che il capitolo fa bene, e che fra i saggi qui discussi non fa nessun altro, è tenere insieme tre cose che di norma viaggiano separate: la descrizione del danno, l’individuazione di chi lo produce, e l’indicazione delle istituzioni che potrebbero impedirlo. Ed è onesto su quest’ultimo punto, il che è più raro ancora. Per tre volte, dopo aver avanzato una proposta, Gregg elenca ciò che le si oppone: le imprese fanno pressione contro gli obblighi di trasparenza e «cooptano il linguaggio della responsabilità senza cambiamenti sostanziali» (p. 260); l’applicazione transfrontaliera può risultare impossibile dove manchino capacità o volontà politica; le riforme rischiano la cattura regolatoria, con gli interessi dell’industria che finiscono per dominare gli organismi di vigilanza; l’analfabetismo tecnologico dei legislatori produce leggi senza mordente o divieti troppo ampi; e la competizione globale spinge gli Stati a non adottare standard severi per non perdere competitività, mentre i paesi del Sud del mondo restano esclusi dalla definizione degli standard pur essendone colpiti in misura sproporzionata.
Riferimenti bibliografici
Steven S. Gouveia (a cura di), The Palgrave Handbook on the Ethics of Artificial Intelligence, Palgrave Macmillan – Springer Nature Switzerland, Cham 2026, xxiv + 906 pp., ISBN 978-3-032-15111-7 (cartaceo), 978-3-032-15112-4 (eBook), DOI 10.1007/978-3-032-15112-4.
Ivi: Mehmet B. Unver, «Re-aligning Value Alignment: A Metaethical Perspective on AI Ethics», cap. 1, pp. 1-16. João Cortese, «On the Ethical Role of Explainability in Artificial Intelligence», cap. 11, pp. 171-188. Keith Begley, «Epistemic Defeat and the Ethics of Machine Learning», cap. 14, pp. 217-228. Tomás Balmaceda, Laura F. Belli, and Diana I. Pérez, «How to do things with Deepfakes: Problematic Uses of Generative Artificial Intelligence», cap. 35, pp. 541-556. Benjamin Gregg, «Humanity’s Moral Burden: As AI Advances, Responsibility Escalates», cap. 17, pp. 257-272.
*Il Taccuino blu di effe (Fabrizio Pinna) | 2026
