La democrazia sarà hackerata dalla propaganda algoritmica
La democrazia sarà hackerata dalla propaganda algoritmica
Deep fake e profilazione politica ci proietteranno verso l'era dell'assoluto relativismo e del bipensiero, svuotando di ogni significato il concetto di "volontà popolare".
Prima di continuare, lascia un like! E poi, se vorrai, fammi sapere cosa ne pensi di questo articolo nei commenti. - Matte
Le democrazie di massa sono inadatte all’Era Digitale. La cosiddetta “volontà popolare”, su cui si fonda l’idea di democrazia rappresentativa, sarà presto completamente hackerata dalle tecnologie dell’Era Digitale: profilazione, filter bubble, deep fake, e così via.
I “deep fake” in particolare potrebbero avere un importante ruolo nel sovvertire le logiche della democrazia rappresentativa.
Cosa sono i deep fake
Deep fake è un termine che si usa per descrivere contenuti audio e/o video creati da un’intelligenza artificiale. O meglio, da algoritmi di machine learning sviluppati e allenati con tecniche di deep learning, cioè con l’uso di reti neurali artificiali in grado di apprendere automaticamente attraverso l’analisi di pattern ricorrenti.
È la stessa tecnologia che ci regala strumenti come chatGPT, Midjourney o il più recente Sora.
Per creare contenuti audio e/o video realistici, questi algoritmi analizzano milioni di contenuti, imparando a imitarne l’aspetto, l’audio e il contesto attraverso un continuo rinforzo positivo. Il risultato, nel migliore dei casi, è un modello in grado di creare e replicare perfettamente contenuti che un occhio o orecchio umano può ritenere realistici, se non addirittura identici al reale.
Alcuni di questi modelli riescono anche a replicare perfettamente l’aspetto, la voce e i movimenti di una persona partendo da una manciata di dati. Ad esempio, esistono oggi strumenti online in grado di replicare la nostra voce con buona fedeltà, semplicemente partendo da un file audio registrato con lo smartphone.
Profilazione politica e advertising mirato
Avendo capito il potenziale del deep fake, possiamo aggiungere ora un ulteriore elemento prima di giungere al cuore del problema: la profilazione politica.
Per profilazione politica intendo l’attività di analisi, segmentazione e creazione di profili che viene svolta da algoritmi e sistemi complessi della big tech (Google e Meta in particolare) su ogni singola persona vivente.
La profilazione, lo ricordo, è l’attività che ha lo scopo di trovare correlazioni tra dati, per creare un profilo (stereotipo) che descriva in modo semplificato o generalizzato il comportamento di una persona. In pratica, la profilazione è il tentativo disperato di usare modelli matematici per comprendere 8 miliardi di persone e prevedere i loro comportamenti per vendere meglio (beni, servizi, idee).
Questi dati sono poi presi, elaborati e rigurgitati all’interno di sistemi automatizzati che hanno l’unico obiettivo di mostrare contenuti digitali al momento giusto, alle persone giuste. Questi contenuti possono anche essere di tipo politico, come sovente accade in vista delle elezioni.
La profilazione politica e il conseguente advertising mirato, sono ottime armi di propaganda di massa, soprattutto per spingere le persone a non votare, oppure per convincere gli indecisi: tutti i partiti ed esponenti politici ne fanno ampissimo uso e dal 2016 con lo scandalo di Cambridge Analytica ne sono noti gli effetti.
E se i semplici “post sponsorizzati” con contenuti politici possono destabilizzare il processo elettorale, proviamo a immaginare cosa accadrà quando i deep fake entreranno a pieno titolo nell’armamentario della propaganda politica profilata.
Un nuovo tipo di propaganda politica
Il deep fake, insieme alla profilazione politica, ha il potenziale di ribaltare completamente la natura della propaganda politica.
Se prima un politico, o un partito, avevano l’onere di comunicare alle masse i loro pensieri, nella speranza di far breccia in più cuori possibili, col deep fake non sarà più così.
La narrativa politica non sarà più unica per tutti, ma potranno esistere infinite narrative pensate appositamente per creare milioni di realtà individuali diverse.
Già oggi migliaia di algoritmi — i cosiddetti sistemi di raccomandazione — plasmano la realtà che vediamo sui social network, creando l’effetto “filter bubble”.
Che succederà quando l’effetto filter bubble uscirà dai nostri smartphone per approdare sui visori per la realtà aumentata o nelle televisioni smart direttamente collegate agli algoritmi di profilazione della Big Tech?
E che accadrà quando i telegiornali, profilati anch’essi, saranno trasmessi sui social o in stanze virtuali private con avatar artificiali che raccontano notizie personalizzate in base alla filter bubble di riferimento?
Ogni gruppo di elettori, o perfino ogni singolo elettore, potrà essere così bombardato con messaggi, video e contenuti di ogni tipo — raffiguranti esattamente ciò che vorrebbe vedere e ascoltare.
Propaganda algoritmica e volontà popolare
Dovrebbe apparire chiaro allora il motivo per cui le democrazie rappresentative di massa sono inadeguate a sostenere il peso dell’Era Digitale.
Ogni singolo elettore potrà in futuro percepire la sua unica ed esclusiva realtà politica, con messaggi e contenuti progettati per allietare le sue sinapsi.
Nel suo visore per la realtà aumentata e sulla sua televisione non vedrà il vecchio e stanco politico che cerca di convincerlo con le parole; no — vedrà esattamente ciò che il suo cervello vuole vedere: una bella donna, un cagnolino parlante, sua madre. O magari un bel cortometraggio in bianco e nero.
Tutti vedranno e ascolteranno esattamente ciò di cui hanno bisogno per decidere a votare per questo o quel partito. D’altronde, tutti abbiamo in tasca uno specchio nero magico che riflette ed amplifica tutte le nostre speranze, ansie, sogni e incubi.
Il risultato di questa propaganda algoritmica è presto detto: milioni, o centinaia di milioni di elettori pronti a votare per il partito prescelto dall’ultimo algoritmo di profilazione; ognuno per i suoi motivi, che potrebbero essere anche in conflitto tra loro.
Quest’ultimo dettaglio non è da sottovalutare. Infatti, se fino a ieri un partito era tenuto a seguire una linea unica, con la propaganda algoritmica e i deep fake questo non sarà più necessario. Sarà l’Era del relativismo assoluto e del bipensiero, per dirla in termini Orwelliani: un partito potrà al tempo stesso essere pro-vita e pro-aborto; ambientalista e industrialista; europeista e nazionalista; pacifico e guerrafondaio.
Al tempo stesso, ogni rapporto tra politici ed elettori sarà intermediato dagli algoritmi, che seguiranno logiche proprie e ignote a entrambe le parti. Una caratteristica dei sistemi di deep learning è infatti proprio la “scatola nera” entro cui avvengono le decisioni: nessuno sa esattamente il motivo per cui a partire da un certo input segua poi un certo output; neanche gli stessi programmatori.
Sarà quindi sempre più l'algoritmo, e coloro che ne controllano indirettamente i processi, a determinare l'esito delle elezioni. Non esisterà più alcuna concreta “volontà popolare”, ma una massa informe di persone rinchiuse nelle loro personalissime filter bubbles, chiamate a votare secondo la propria singolare rappresentazione della realtà.
Così, anche i politici eletti potranno giovarsi di questo relativismo assoluto: i programmi politici spariranno, per lasciare il posto a campagne di advertising mirate.
Nessuno potrà essere responsabile delle decisioni prese dalla maggioranza parlamentare, quando questa maggioranza rappresenta in ogni momento qualsiasi realtà possibile e immaginabile.
✅ Se questo articolo ti piace, considera l’abbonamento a Privacy Chronicles! Con soli €3.75 al mese potrai supportare il mio lavoro e contribuire alla crescita di questa community.
Come uscirne?
La democrazia di massa sarà hackerata dalla propaganda algoritmica. C’è una via d’uscita?
Secondo l’Unione Europea la risposta sta nella lotta legale alla “disinformazione” e ai deep fake, con regolamenti pomposi e sorveglianza di massa. Il Digital Services Act, che obbligherà le piattaforme online ad aumentare la trasparenza, indicare quando un contenuto politico è sponsorizzato e i motivi per cui viene visualizzato, è l’esempio paradigmatico. Non è un caso che sia stato approvato un anno prima delle elezioni europee del 2024.
Tuttavia, non servirà a nulla. Aumentare la trasparenza non sposterà di un millimetro la portata dirompente di queste tecnologie.
Da sempre il cinema è una macchina di propaganda. Da sempre le persone sono trasportate dai messaggi (più o meno subliminali) contenuti in film che sanno essere falsi. Anzi, si potrebbe sostenere, paradossalmente, che sapere che il contenuto davanti ai nostri occhi è falso, potrebbe perfino contribuire ad abbassare le difese psicologiche… facilitando così l’assimilazione del messaggio politico.
La via d’uscita è una sola ed è in salita: allenare mente e spirito ad affrontare la nuova realtà che ci aspetta, rinunciare a vecchi schemi ormai inadatti e scoprire un nuovo modo di vivere.