Veronica Barassi
“I figli dell’algoritmo”
Luiss University Press, 2021
Il processo di sorveglianza inizia nel grembo materno attraverso il FemTech e le app di mHealth. Milioni di donne utilizzano questi strumenti, spesso incentivati persino dai datori di lavoro attraverso programmi di “wellness”, per monitorare meticolosamente ogni aspetto della gravidanza e della crescita. Questo crea un’illusione di sicurezza e controllo, ma in realtà alimenta un mercato globale dei dati che trasforma la maternità in una pratica di monitoraggio costante.
L’ambiente domestico è il fulcro di questo capitalismo della sorveglianza, dove i genitori immettono nelle piattaforme i propri dati e si sentono persino sicuri ad essere controllati. Con l’avvento della domotica e degli smart speaker come Alexa, i bambini piccoli si ritrovano a dialogare con interfacce immateriali che però non riconoscono come macchine. Barassi cita l’”illusione di intimità artificiale”, una narrazione costruita dall’industria per farci percepire la tecnologia come emotiva e umana, mentre il suo scopo primario è l’estrazione di home life data. Questi dati situazionali e domestici vengono prelevati senza che le famiglie ne comprendano appieno la complessità o i rischi.
Un punto centrale della critica riguarda l’uso di questi dati da parte delle istituzioni. Barassi mette in guardia sul fatto che le registrazioni domestiche e i profili digitali sono accessibili a governi, uffici tributari e tribunali per analisi predittive. Negli Stati Uniti, i dati di aziende come Amazon sono già entrati nelle aule giudiziarie, uno scenario ritenuto possibile anche per il sistema legale italiano. Il collasso dell’integrità contestuale sui social media aggrava il problema: le tracce digitali lasciate oggi dai genitori o dai minori possono influenzare i futuri premi assicurativi, i mutui o le selezioni lavorative.
L’autrice affronta il tema della rassegnazione digitale, descrivendo quel senso di impotenza dei genitori costretti ad accettare condizioni di privacy lunghe e incomprensibili per non restare esclusi da servizi essenziali. Questa partecipazione digitale forzata permette alle aziende di operare una profilazione che mira alla manipolazione, come dimostrato dal caso Cambridge Analytica.
Nel confronto tra i modelli di sorveglianza, Barassi osserva come l’Occidente guardi con timore al sistema di credito sociale cinese, ignorando che il capitalismo della sorveglianza occidentale ha costruito infrastrutture simili che permettono scambi di dati tra tech company, agenzie segrete e poteri militari e di polizia interna. Aziende come Palantir o Clearview AI operano una profilazione invasiva che non è oggettiva, ma incorpora bias e pregiudizi umani (razzisti e maschilisti) negli algoritmi, amplificando le disuguaglianze sociali. Esempi lampanti sono i sistemi di riconoscimento facciale che falliscono con determinati gruppi demografici o algoritmi di reclutamento che discriminano in base al genere.
In conclusione, Barassi definisce il sistema attuale come disumano, citando casi atroci di pubblicità mirate inviate a genitori che hanno subito lutti neonatali. Gli algoritmi, basati su ipotesi riduzioniste, non possono comprendere la complessità dei soggetti umani. L’opera si chiude con un forte appello politico: l’Europa deve smettere di considerare l’Intelligenza Artificiale come una semplice gara tecnologica e deve invece fare una scelta democratica, rimettendo al centro i diritti umani e l’autonomia dei bambini per proteggere il loro futuro da un destino predeterminato dai dati.
