(re)azione umana e libero arbitrio nell'Era Digitale

Black box e mediazione algoritmica della realtà: si potrà ancora parlare di libero arbitrio?

È una giornata come tante. Mentre bevi il caffè apri il tuo social preferito e scorri il tuo feed. Un post che parla di cronaca cattura la tua attenzione; lo apri e inizi a leggere i vari commenti. Dai il tuo contributo alla discussione con una gif di Pepe, e continui a sorseggiare il tuo caffè.

Come te, altre centinaia di milioni di persone fanno lo stesso ogni giorno, più ore al giorno. Sempre più i social network sono l’unica finestra sul mondo, aperta per ottenere informazioni e relazionarsi con altri esseri umani.

Fonte

I nostri dispositivi (PC e mobile) sono ormai il principale punto di accesso al mondo esterno, cioè quello fuori dalla nostra scatola cranica, al punto che gli input e le interazioni online spesso ci condizionano fino a modificare inconsciamente i nostri pensieri, le nostre azioni e il nostro stato d’animo.

Forse anche tu conoscerai persone che a un certo punto hanno scelto di disattivare o chiudere del tutto i loro account perché non riuscivano più a gestire il carico psicologico derivante da questa continua esposizione.

La faccenda non sarebbe neanche poi così male, se non fosse che questo mondo digitale con cui ci relazioniamo è totalmente artificiale e controllato da algoritmi il cui unisco scopo è manipolare le persone in base ai loro interessi e debolezze.

Tutto è fabbricato ad arte per suscitare una reazione atavica: il feed, che incentiva l’utente a rimanere incollato allo schermo; la tempestiva esposizione degli annunci pubblicitari, che sfruttano la profilazione psicologica dell’utente per potenziare il loro messaggio al momento giusto; e perfino la disposizione delle risposte ai post, che cambia in base al profilo utente per massimizzare il coinvolgimento di ognuno in base ai propri trigger.

Emotional targeting

Un tipo particolare di advertising mirato è quello conosciuto come “emotional targeting”, che analizza lo stato emotivo dell’utente in base a numerosi parametri per aumentare le probabilità di influenzare il suo comportamento.

Google, che possiede il sistema di advertisement e profilazione più avanzato al mondo, promette di raggiungere l’utente nell’esatto “micro-momento” in cui sarà unicamente ricettivo verso l’annuncio proposto.

In "Weapons of Math Destruction", Cathy O'Neil, che per anni ha lavorato nel settore, spiega il modo in cui gli algoritmi usati per l’advertisement online siano in grado di sfruttare le debolezze degli utenti per massimizzare l’impatto degli annunci pubblicitari e quindi il loro potere manipolatorio.

L’autrice menziona ad esempio la pratica diffusa, da parte di istituti di credito, di sfruttare questo sistema di “emotional targeting” per prendere di mira persone a basso reddito, depresse, o con problemi di vario tipo (es. madri single), al fine di vendere prestiti online veloci e semplici da ottenere, ma con APR (interessi annuali) astronomici e usurai.

Profilazione e neural processing units

La promessa dell’Era Digitale è di portare l’architettura di profilazione ed emotional targeting che troviamo online e sui social network, ovunque: nei luoghi di lavoro, nelle città e nelle strade; nelle aziende, nelle nostre case, e perfino nei nostri dispositivi connessi: domotica e Iot; visori per la realtà aumentata e dispositivi wearables (come gli smartwatches).

Questo passaggio dal cyberspazio allo spazio-fisico sarà reso possibile dall’integrazione dell’intelligenza artificiale a livello hardware in ogni dispositivo elettronico. È la piccola ma rilevante rivoluzione degli NPU (Neural Processing Units). Gli NPU sono dei processori specializzati, pensati appositamente per farsi carico dei processi legati agli algoritmi d’intelligenza artificiale.

Questi nuovi processori permetteranno di elaborare direttamente in locale, sui nostri dispositivi modelli e algoritmi d’intelligenza artificiale, che saranno così sempre presenti e sempre accesi, anche quando siamo totalmente disconnessi da Internet.

Le prime stime ci dicono che entro i prossimi 5 anni circa il 70-80% dei computer e smartphone di nuova produzione saranno dotati di una o più NPU, con integrazione hardware/software di numerosi algoritmi d’intelligenza artificiale. Copilot+ è un primo esempio.

L’integrazione dell’intelligenza artificiale verrà poi estesa a tutti quei gadget simpatici che fanno parte dell’universo IoT, già menzionati. Sulle automobili ci stanno già lavorando, e alcuni, come Tesla, sono già molto avanti.

Estrazione costante di dati di prossimità

L’estrazione di dati non sarà più soltanto “online” ma costante e pervasiva in ogni aspetto della nostra realtà, sia fisica che digitale. Ogni oggetto elettronico potrà avere al suo interno NPU e algoritmi in grado di raccogliere dati di prossimità sulle nostre vite, su ciò che facciamo, su ciò che siamo, e anche su ciò che vorremmo essere.

Nel frattempo sia l’intelligenza artificiale che le neurotecnologie progrediranno, finendo così per avere agenti IA (Evoluzione, Morpheus) con cui interagire direttamente tramite interfaccia cervello-computer.

Se l’industria della Big Tech manterrà le promesse, potremmo ritrovarci immersi in una “black box” algoritmica planetaria. La profilazione non sarà più limitata all’uso di motori di ricerca, app, e social network, ma continuativa, pervasiva e ovunque — tra qualche decade, anche nella nostra testa.

La questione del libero arbitrio

Possiamo immaginare che l’intelligenza artificiale, unitamente alla profilazione massiva, avranno il potere di manipolare la realtà al punto tale da confondere i sensi degli individui meno capaci di sopportare queste continue sollecitazioni; limitando — se non del tutto annullando — il loro libero arbitrio.

L’intelligenza artificiale diventerebbe una sorta di Demiurgo capace di creare una falsa realtà, ma assolutamente tangibile e realistica per coloro che vi sono immersi coi loro sensi.

In questo scenario, tutto ciò che gli esseri umani percepiscono può essere filtrato da tecnologie automatizzate come algoritmi di raccomandazione, deep fake e realtà aumentata. Ogni informazione ed esperienza viene così manipolata e presentata attraverso un’interfaccia tecnologica di cui sono inconoscibili i meccanismi interni (effetto black box).

Avrà ancora senso parlare di libero arbitrio? Temo che la risposta non sia necessariamente positiva; almeno non per tutti.

Il libero arbitrio

Parlare di libero arbitrio in generale è estremamente complesso. Ci riflettiamo da migliaia di anni, e l’idea di libero arbitrio cambia molto a seconda dell’approccio filosofico.

Gli Stoici sostenevano ad esempio che l’Universo è governato da una ragione universale e che tutto accade secondo un destino predeterminato. Tuttavia, riconoscevano anche una forma di libero arbitrio, intesa come la capacità dell’individuo di agire in accordo con la propria natura, anche attraverso il dominio dei propri sensi e delle proprie emozioni.

In sostanza, nonostante il determinismo universale, gli Stoici credevano che la natura del libero arbitrio risiedesse nella “scelta morale”, che potrebbe essere intesa come il compimento o il rifiuto del proprio destino.

Spostandoci verso la metafisica, è interessante l’idea di Kant. Secondo lui, il libero arbitrio equivale all’autonomia della volontà, cioè la capacità di agire secondo le leggi che l’individuo dà a se stesso (l’imperativo categorico), piuttosto che la reazione a cause o impulsi esterni.

Tuttavia, secondo Kant il libero arbitrio e il determinismo non sono in contraddizione, grazie alla distinzione tra fenomeno e noumeno. Il fenomeno si riferisce alla realtà come la percepiamo attraverso i nostri sensi e la nostra mente, mentre il noumeno è la realtà in sé, indipendente dalle nostre percezioni e dalle varie strutture cognitive.

Nel Trattato Tripartito, una delle opere più significative della collezione gnostica di Nag Hammadi, si trova una metafora che descrive il viaggio dell'anima che discende attraverso i vari piani dell'esistenza. Secondo il trattato, l’anima si ricopre di volta in volta di manti o vestiti corrispondenti a ciascun piano d’esistenza. Questi rappresentano gli aspetti dell'essere e le influenze che l'anima acquisisce mentre si immerge progressivamente nel mondo materiale.

Il primo manto è quello divino, in cui l’anima è ancora vicina alla fonte (Pleroma); il secondo è quello etereo, associato al mondo delle idee (si potrebbe assimilare al noumeno Kantiano); il terzo manto è quello materiale. A questo dovremmo oggi forse aggiungerne un quarto, quello digitale.

Le tecnologie digitali, le neurotecnologie e l’intelligenza artificiale non possono cambiare la natura del noumeno. Possono però ricoprire i nostri sensi di un ulteriore filtro, rispetto a quello materiale, rendendo i fenomeni ancora più distanti dalla realtà in sé (noumeno).

Azione e reazione umana

In questo contesto, l’azione umana, come descritta da Mises nell’omonimo trattato, potrebbe diventare una mera (re)azione ad impulsi algoritmici; similmente a quanto accade a un gatto che reagisce atavicamente al puntatore laser che viene proiettato sul pavimento.

Il laser esiste ed è reale, così come è genuina la reazione del gatto. Eppure, dall’altra parte c’è qualcuno che ride mentre il felino salta da una parte all’altra come una marionetta, in modo assolutamente deterministico e prevedibile.

Secondo l’autore, l’azione umana è un comportamento proposito; è la scelta di un’alternativa di comportamento in cui l’attore bilancia costi e benefici di ogni azione possibile. L’attore valuta le sue azioni e decide quali intraprendere per ottenere i risultati desiderati.

Pur senza discuterne apertamente, Mises era certamente convinto della capacità di libero arbitrio dell’essere umano.

In alcuni passaggi del suo saggio scrive: “L'azione è sempre intenzionale. È una risposta consapevole a un bisogno insoddisfatto. È una scelta tra varie alternative.” […] L'essere umano è un agente cosciente. Sceglie fini e adotta mezzi per il raggiungimento dei fini scelti.”

E ancora: “Gli uomini non sono automi. Agiscono perché le loro menti e i loro pensieri li guidano nel compiere scelte tra diverse alternative” […] Ogni azione è sotto il controllo del suo autore. Non vi è coazione o costrizione che possa privare una persona dal potere di scegliere e di agire come meglio crede”.

Secondo Mises l’azione è quindi una risposta consapevole e intenzionale a un bisogno insoddisfatto; una scelta tra varie alternative in base ai fini scelti dall’individuo e i mezzi a sua disposizione.

Dall’azione, alla reazione

Mises aveva probabilmente ragione nel momento in cui scrisse il suo trattato. Tuttavia, dobbiamo soffermarci oggi a riflettere sulla natura dell’azione umana, in un mondo dove la percezione del fenomeno (mondo materiale) è sempre più mediata e falsata, in modo deterministico, da algoritmi e sistemi digitali.

Sapendo che ogni meccanismo presente sui social network, come l’emotional targeting e gli algoritmi di raccomandazione, sono pensati per suscitare nell’utente reazioni istintive e inconsce, come possiamo affermare che il loro uso (scorrimento del feed, visualizzazione e click sul post, l’eventuale coinvolgimento nelle discussioni) sia frutto di “pensiero che guida la persona nel compiere scelte tra alternative diverse” e che ognuna di queste azioni “sia sotto il controllo del suo autore”?

Senza autonomia della volontà, cioè senza la percezione non mediata del fenomeno, e senza la capacità di agire secondo la propria natura (cioè senza manipolazioni esterne che impattano sulla capacità di autodeterminazione), non può esserci alcuna risposta intenzionale e consapevole (azione umana), ma soltanto l’istintiva e inconsapevole reazione atavica a bisogni indotti artificialmente.

L’utente è un ignaro gatto che insegue forsennatamente il laser sul pavimento. L’azione diventa reazione.

In conclusione, la tecnologia digitale è diversa da ogni altra, perché ha il potere di creare mondi all'interno di mondi, secondo una logica frattale che può allontanarci sempre più dal primo livello fenomenico e dalla nostra natura.

Il cucchiaio non esiste

Mi rendo conto che il mio pensiero potrebbe sembrare pessimistico verso l’intelligenza artificiale e le tecnologie digitali. Non è esattamente così.

Se rifletto su questi temi è perché credo che i rischi siano concreti e generalmente veri per la maggior parte della popolazione. Tuttavia, anche il “mantello digitale” della nostra anima può invece essere un supporto per risvegliare livelli più alti di consapevolezza.

Prendiamo l’esempio di Matrix. La simulazione rappresenta l’estrema digitalizzazione della realtà. Una simulazione perfetta della realtà materiale (fenomeno) in grado di imbrigliare i sensi e la volontà degli esseri umani all’interno di uno schema deterministico, immutabile e perpetuo pensato per confonderli, senza che ne siano consapevoli.

Matrix è però al tempo stesso anche uno strumento usato dai ribelli e dagli eletti per ricercare la conoscenza e avvicinarsi alla realtà in sé (noumeno).

Il viaggio di Neo comincia nel momento in cui inconciamente mette in dubbio la natura stessa della sua realtà: “It’s the question that drives us, Neo. It’s the question that brought you here. You know the question just as I did. What is the Matrix?”.

Neo avrebbe potuto rinunciare a Matrix, ma non lo fa. Anzi: è proprio attraverso il suo uso sapiente che riesce a comprendere ancor meglio la natura della realtà fenomenica (sia all’interno che all’esterno del sistema).

Per fare come Neo, bisogna però prima convincersi che il cucchiaio non esiste. Dobbiamo però anche accettare che molti individui non avranno alcuna volontà di intraprendere questo percorso, e che sceglieranno invece consapevolmente o inconsapevolmente di farsi cullare dal dolce oblio algoritmico, accontentandosi di una simulazione dell’azione umana e del libero arbitrio.