Schiavitù 2.0 e come evitarla: una guida pratica per cyborg
Un articolo di Aral Balkan
Qui l’originale in inglese : tradotto in tedesco e spagnolo.
– ^ –
Molto probabilmente sei un cyborg e non lo sai nemmeno.
Hai uno smartphone?
Sei un cyborg.
Usi un computer? O il web?
Cyborg!
Più in generale, se usi la tecnologia digitale e in rete oggi, sei un cyborg. Non devi impiantarti dei microchip. Non devi assomigliare a Robocop. Sei un cyborg perché estendi le tue capacità biologiche usando la tecnologia.
Leggendo questa definizione, potresti dire: “Ma aspetta, gli esseri umani lo fanno da molto più tempo di quanto esista la tecnologia digitale”. E avresti ragione.
Eravamo cyborg molto prima che il primo bug si insinuasse nella prima valvola termoionica (tubo a vuoto) del primo computer mainframe (sistema centrale).
L’uomo delle caverne che brandiva una lancia e accendeva un fuoco era il cyborg originale. Galileo che guardava il cielo con il suo telescopio era sia un uomo del Rinascimento che un cyborg. Quando ti metti le lenti a contatto la mattina, sei un cyborg.
Nel corso della nostra storia come specie, la tecnologia ha potenziato i nostri sensi. Ci ha offerto una maggiore padronanza e controllo sia della nostra vita che del mondo che ci circonda. Allo stesso modo, la tecnologia è stata usata per opprimerci e sfruttarci – come testimonierà senza difficoltà chiunque abbia mai fissato la canna del fucile del suo oppressore.
“La tecnologia”, secondo la prima legge della tecnologia di Melvin Kranzberg, “non è né buona né cattiva, né neutrale”.
Allora cosa stabilisce se la tecnologia contribuisce al nostro benessere, ai diritti umani e alla democrazia o se li corrode? Cosa separa la buona tecnologia dalla cattiva tecnologia? E, visto che ci siamo, cosa separa il telescopio di Galileo e le tue lenti a contatto da Google e Facebook? E perché è importante se ci vediamo come cyborg o no?
Noi tutti dobbiamo cercare di capire le risposte a queste domande. Il non farlo potrebbe avere un prezzo davvero molto alto. Queste non sono semplicemente domande sulla tecnologia. Sono domande che vanno al cuore di ciò che significa essere umani nell’era digitale e della rete. Il modo in cui scegliamo di rispondere a queste domande ha conseguenze fondamentali per il nostro benessere, sia a livello personale che come società. Le risposte che scegliamo determineranno il carattere delle nostre società e, nel lungo termine, forse anche la sopravvivenza della nostra specie.
Proprietà e controllo del sé nell’era digitale e della rete
Immagina un mondo in cui alla nascita ti viene assegnato un dispositivo che da quel momento in poi ti guarda, ascolta e ti segue. Può anche leggere la tua mente.
Nel corso degli anni, questo dispositivo registra ogni tuo pensiero, ogni parola, ogni movimento e ogni interazione. Invia tutte queste informazioni su di te a un potente computer centrale di proprietà di una società multinazionale. Lì, questi aspetti del tuo io sono messi insieme usando algoritmi per creare una tua simulazione. La società multinazionale usa la tua simulazione come un doppio digitale per manipolare il tuo comportamento.
Il tuo doppio digitale ha un valore inestimabile. È tutto ciò che ti rende quello che sei (a parte il tuo corpo fisico). La società multinazionale capisce che non ha bisogno di possedere il tuo corpo fisico per possederti. Coloro che si oppongono lo chiamano il sistema di Schiavitù 2.0.
Per tutto il giorno la società multinazionale sottopone la tua simulazione a dei test. Cosa ti piace? Cosa ti rende felice? Cosa ti rende triste? Cosa ti fa paura? Chi ami? Cosa farai questo pomeriggio? Usa le informazioni che ricava da questi test per farti fare quello che vuole. Magari per comprare un vestito nuovo o votare per un certo politico.
La società multinazionale è politica. Deve continuare a sopravvivere, crescere e prosperare. Non può essere ostacolata dai regolamenti. Quindi deve influenzare il discorso politico. Per fortuna, a tutti coloro che oggi sono dei politici è stato assegnato lo stesso dispositivo che ti è stato assegnato alla nascita. Quindi la società multinazionale possiede anche i loro doppi digitali. Questo rende molto più facile per la società multinazionale soddisfare i propri desideri.
Detto questo, la società multinazionale non è onnisciente. Per esempio, potrebbe arrivare alla conclusione per errore – basandosi sui tuoi pensieri, parole e azioni – che sei un terrorista anche se non lo sei. Quando la società multinazionale ha ragione, il tuo doppio digitale è uno strumento inestimabile per manipolare il tuo comportamento. Quando si sbaglia, potrebbe mandarti in prigione. In ogni caso, perdi.
Sembra una distopia fantascientifica cyberpunk, vero?
Sostituisci “la società multinazionale” con “Silicon Valley”. Sostituisci il potente computer centrale con ‘The Cloud’. Sostituisci “il dispositivo” con “il tuo smartphone e il tuo assistente domestico smart e la tua smart city e la tua smart questo, quello e altro”.
Benvenuti sulla Terra, circa ai giorni nostri.
Capitalismo della sorveglianza
Viviamo in un mondo in cui una manciata di società multinazionali ha accesso a un flusso illimitato e costante ai dettagli più intimi delle nostre vite. I loro dispositivi ci guardano, ascoltano e ci rintracciano, nelle nostre case, su Internet e (sempre di più) sui marciapiedi e nelle strade. Questi non sono strumenti che ci appartengono e controlliamo. Sono gli occhi e le orecchie del sistema socio-tecnologico-economico che Shoshana Zuboff ha chiamato “capitalismo della sorveglianza”.
Proprio come nel nostro incubo cyberpunk, i baroni ladri della Silicon Valley non si accontentano di guardare e ascltare. Per esempio, alla sua conferenza degli sviluppatori del 2017, Facebook ha annunciato che sessanta ingegneri stavano già lavorando al progetto per leggere – letteralmente – la tua mente 1.
Sopra ho posto la questione di cosa distingue il telescopio di Galileo e le lenti a contatto dalle offerte di merci di Facebook, Google e altri capitalisti della sorveglianza.
Comprendere la risposta a questa domanda è cruciale per capire fino a che punto il concetto stesso di individualità sia minacciato dal capitalismo della sorveglianza.
Quando Galileo usava il suo telescopio, solo lui vedeva ciò che guardava e solo lui sapeva cosa stava guardando. Lo stesso vale per le lenti a contatto. Se Galileo avesse comprato il suo telescopio da Facebook, Facebook, Inc. avrebbe registrato tutto quello che ha guardato. Allo stesso modo, se compri le lenti a contatto da Google, avranno telecamere integrate e Alphabet, Inc. vedrà tutto quello che stai vedendo. (Google non produce ancora queste lenti, ma hanno un brevetto 2. Per il momento, se non puoi aspettare, Snapchat fa degli occhiali con telecamere al loro interno).
Quando usi una matita per scrivere nel tuo diario, né la matita né il tuo diario sanno cosa hai scritto. Quando scrivi i tuoi pensieri in un documento di Google, Google conosce ogni parola.
Quando mandi una lettera a un amico per posta ordinaria, l’ufficio postale non sa cosa hai scritto. Se chiunque altro apre la tua busta è un crimine . Quando mandi un messaggio istantaneo a un amico su Facebook Messenger, Facebook legge ogni parola.
Quando accedi a Google Play Services su un telefono Android, ogni tua mossa e interazione viene meticolosamente registrata, inviata a Google, memorizzata per sempre, analizzata e usata contro di te nel tribunale del capitalismo della sorveglianza.
Una volta eravamo noi a leggere i giornali. Oggi, i giornali ci leggono. Mentre guardi YouTube, anche YouTube ti guarda.
Sono sicuro che capisci di cosa si tratta.
Finché noi (come persone) non possediamo e controlliamo la nostra tecnologia, “smart” non è altro che un eufemismo per “sorveglianza”. Un telefono intelligente è un dispositivo di tracciamento, una casa intelligente è una cella da interrogatorio, e una città intelligente è un panopticon.
Google, Facebook e altri capitalisti della sorveglianza sono fabbriche intensive di esseri umani. Fanno i loro miliardi allevandoti per i tuoi dati e si servono di quella conoscenza intima della tua vita per manipolare il tuo comportamento.
Queste organizzazioni scansionano costantemente l’umanità. Esistono per digitalizzarti, per possedere quel doppio digitale e per usarlo come doppio per diventare ancora più grandi e potenti.
Dobbiamo capire che queste società multinazionali non sono anomalie. Sono la norma. Sono il mainstream. Il mainstream della tecnologia oggi è una fuoriuscita tossica di capitalismo clientelare americano che minaccia di inghiottire l’intero pianeta. Noi, qui in Europa, non siamo certo immuni ai suoi fumi tossici.
I nostri politici vengono affascinati facilmente dai milioni che queste società multinazionali e spendono nelle lobby di Bruxelles. Sono incantati dalla saggezza della Singularity University (non è un’università). Nel frattempo, le nostre scuole accumulano i Chromebook per i nostri figli. Le nostre tasse vengono abbassate, in modo che i capitalisti della sorveglianza non siano eccessivamente gravati nel caso volessero ordinare un’altra Guinness. E i nostri politici istituzionalmente-corrotti sono troppo occupati a organizzare conferenze sulla protezione dei dati tenute da Google e Facebook per proteggere i nostri interessi. Lo so, perché ho parlato a una l’anno scorso. L’oratore di Facebook era appena uscito dal suo lavoro all’ufficio francese per la protezione dei dati, rinomato per la bellezza e l’efficienza delle sue porte girevoli.
Qualcosa deve cambiare.
E sono sempre più convinto che se questo cambiamento arriverà, deve venire dall’Europa.
La Silicon Valley non risolverà il problema che essa stessa ha creato. Soprattutto perché società multinazionali come Google e Facebook non vedono i miliardi di profitto come un problema. Il capitalismo della sorveglianza, secondo i suoi propri criteri di successo, non è affatto problematico. Funzionano meravigliosamente per società multinazionali come Google e Facebook. Studiano i loro bilanci sorridendo, e ridono in faccia agli enti di controllo le cui multe ridicole superano a malapena un paio di giorni di entrate.
È stato detto che “punibile con una multa” significa “legale per i ricchi” 3. Questo è vero due volte quando si tratta di regolamentare multinazionali da mille miliardi di dollari.
Allo stesso modo, il Venture Capital (capitale di rischio) non investirà in soluzioni che distruggerebbero il modello di business immensamente lucrativo e che ha contribuito a finanziare.
Quindi, quando vedi iniziative come il cosiddetto Centre for Humane Technology con investitori di Venture Capital ex dipendenti di Google, fatti qualche domanda. E magari risparmiane qualcuna per le organizzazioni che pretendono di creare alternative etiche mentre nel frattempo sono finanziate dai capitalisti della sorveglianza. Mozilla, per esempio, prende centinaia di milioni di dollari da Google ogni anno 4. Da loro ha preso più di un miliardo di dollari in totale. Sei felice di affidare a loro lo sviluppo di alternative etiche?
Se vogliamo tracciare un percorso diverso in Europa, dobbiamo finanziare e costruire la tecnologia in modo diverso. Dobbiamo avere il coraggio di andare in una direzione diversa da quella dei nostri amici d’oltreoceano. Dobbiamo avere consapevolezza di noi stessi e dire alla Silicon Valley e ai suoi lobbisti che non compriamo quello che ci offrono.
E dobbiamo fondare tutto questo su una solida base di leggi sui diritti umani. Ho detto “diritti umani”? Volevo dire diritti dei cyborg.
I diritti dei cyborg sono diritti umani
Siamo di fronte a una crisi dei diritti umani che è profonda e che ci rimanda a ciò che intendiamo per “umano”.
Tradizionalmente, delimitiamo il nostro sé all’interno dei confini biologici. Inoltre, abbiamo un sistema di leggi e sentenze che mira a proteggere l’integrità di quei confini e quindi la dignità del sé. Chiamiamo questo sistema legge sui diritti umani.
Purtroppo, questa definizione del sé non è più adeguata a proteggerci completamente nell’era digitale e della rete.
In questa nuova era, espandiamo le nostre capacità biologiche usando tecnologie digitali e di rete. Estendiamo le nostre menti e noi stessi utilizzando la tecnologia moderna. Pertanto, dobbiamo ampliare la nostra comprensione dei confini del sé per includere le tecnologie con cui estendiamo noi stessi. Estendendo la definizione di sé, possiamo assicurarci che la legge sui diritti umani comprenda e quindi protegga la totalità del sé nell’era digitale e della rete.
Come cyborg, siamo esseri frammentati. Parti di noi vivono sui nostri telefoni, parti su un server da qualche parte, parti su un portatile. L’integrità del sé nell’era digitale e della rete è la somma totale dell’integrità di questi frammenti.
Quindi i diritti dei cyborg sono diritti umani applicati all’io cyborg. Ciò di cui non abbiamo bisogno è un insieme separato di “diritti digitali” – probabilmente molto ridotti – . Questo è il motivo per cui la Dichiarazione Universale dei Diritti dei Cyborg 5 non è un documento a sé stante, ma un addendum alla Dichiarazione Universale dei Diritti Umani.
Mentre la tutela dei diritti costituzionali dei cyborg sia inevitabilmente un obiettivo a lungo termine, noi non dovremmo attendere una legge costituzionale prima di agire. Possiamo e dobbiamo iniziare a proteggerci creando alternative etiche alla tecnologia tradizionale.
Tecnologia etica
Una tecnologia etica 6 è uno strumento che possiedi e controlli. È uno strumento progettato per rendere la tua vita più gradevole e semplice. È uno strumento che migliora la tua capacità e migliora la tua vita. È uno strumento che agisce solo per – e mai contro – i tuoi interessi.
Al contrario, una tecnologia non etica è uno strumento di proprietà e controllato da società e governi. Agevola i loro interessi a spese dei tuoi. È una trappola scintillante progettata per catturare la tua attenzione, assuefarti, tracciare ogni tua mossa e profilarti. È una fabbrica intensiva travestita da parco giochi.
La tecnologia non etica è tossica per i nostri diritti umani, il benessere e la democrazia.
Piantare semi migliori
La tecnologia etica non cresce sugli alberi: bisogna finanziarla. Il modo in cui la si finanzia è importante.
La tecnologia non etica è finanziata dal Venture Capital. Il Venture Capital non investe in una società, investe nella vendita della società. Investe anche in società molto rischiose. Un venture capitalist nella Silicon Valley investirà, diciamo, 5 milioni di dollari in 10 diverse startup, sapendo che 9 di esse falliranno. Così lui (di solito è un lui), ha bisogno che la decima sia un unicorn da un miliardo di dollari in modo da poter recuperare da cinque a dieci volte i suoi soldi. (Non sono nemmeno i suoi soldi, appartengono ai suoi clienti). L’unico modello di business che conosciamo nella tecnologia che fornisce quel tipo di crescita è l’allevamento delle persone. La schiavitù pagava bene. Anche la schiavitù 2.0 paga bene.
Non dovremmo sorprenderci che un sistema che valorizza più di ogni altra cosa la crescita simile al cancro abbia prodotto tumori come Google e Facebook. Quello che è stupefacente è che sembra celebriamo i tumori invece di curare il paziente. E ancora più sconcertante è che qui in Europa sembriamo ostinatamente determinati a infettarci con la stessa malattia.
Non facciamolo.
Finanziamo alternative etiche.
Dai beni comuni.
Per il bene comune.
Sì, questo significa con le nostre tasse. È un po’ quello a cui servono (costruire infrastrutture condivise per il bene comune che faccia avanzare il benessere della nostra gente e delle nostre società). Se la parola “tasse” ti spaventa o suona troppo antiquata, sostituiscila semplicemente con “crowdfunding obbligatorio” o “filantropia democratizzata”.
Finanziare la tecnologia etica dai beni comuni non significa che facciamo sviluppare, possedere o controllare le nostre tecnologie dai governi. Né significa che nazionalizziamo società multinazionali come Google e Facebook. Smantellatele! Certo. Regolamentarle! Certo. Fare qualsiasi cosa che limiti il più possibile i loro abusi. Ma l’unica cosa peggiore di un panopticon aziendale è un panopticon statale (non che queste due cose si escludano a vicenda).
Non sostituiamo un grande fratello con un altro.
Investiamo invece in molte piccole organizzazioni indipendenti senza scopo di lucro e incarichiamole di costruire le alternative etiche. Facciamole competere tra loro mentre lo fanno. Prendiamo ciò che sappiamo funziona dalla Silicon Valley (piccole organizzazioni che lavorano in modo iterativo, competono e falliscono velocemente) e rimuoviamo ciò che è tossico: il Venture Capital, il feticismo della crescita e i ritiri dettati dal profitto.
Invece di startup, costruiamo stayup in Europa.
Invece di imprese usa e getta che o falliscono velocemente o diventano tumori maligni, finanziamo organizzazioni che o falliscono velocemente o diventano fornitori sostenibili di bene sociale.
Quando ho menzionato questo piano diversi anni fa al Parlamento europeo, le mie parole sono cadute nel vuoto. Non è ancora troppo tardi per provare. Ma ogni giorno che rimandiamo, il capitalismo della sorveglianza si radica sempre più nel tessuto delle nostre vite.
Dobbiamo superare questo fallimento dell’immaginazione e basare la nostra infrastruttura tecnologica su quei principi che sono il meglio dell’umanità: diritti umani, giustizia sociale e democrazia.
Oggi, l’UE agisce come un dipartimento di ricerca e sviluppo non retribuito della Silicon Valley. Finanziamo le startup che, se hanno successo, vengono vendute alle società multinazionali della Silicon Valley. Se falliscono, il contribuente europeo paga il conto. Questa è una follia.
La CE deve smettere di finanziare le startup e investire invece nelle stayup. Investire 5 milioni di euro in dieci stayup in ogni area in cui vogliamo alternative etiche. A differenza di una startup, quando le stayup hanno successo, non scompaiono nella proprietà dei profittatori. Non possono essere comprate da Google o Facebook. Rimangono delle no-profit europee sostenibili che lavorano per fornire tecnologia come bene sociale.
Inoltre, il finanziamento di una stayup deve essere accompagnato da una rigorosa specificazione del carattere della tecnologia che costruirà. I beni costruiti con fondi pubblici devono essere beni pubblici. La Free Software Foundation Europe sta attualmente sensibilizzando in questo senso con la loro campagna „public money, public code“/“denaro pubblico, codice pubblico”. Tuttavia dobbiamo andare oltre il principio dell’”open source” per stabilire che la tecnologia sviluppata dalle stayup non solo deve essere pubblica, ma anche non può essere limitata nella sua distribuzione.
Per il software e l’hardware, questo significa usare licenze copyleft. Una licenza copyleft assicura che chi usa la tecnologia pubblica deve condividere allo stesso modo. Le licenze share-alike, che implicano una condivisione generale, sono essenziali affinché i nostri sforzi non diventino un eufemismo della privatizzazione e per evitare una catastrofe dei beni comuni. Le società con grande disponibilità finanziaria non devono essere messe in grado di prendere ciò che creiamo con fondi pubblici, investirci sopra i loro milioni, e non condividere il valore aggiunto.
Infine, dobbiamo stabilire che le tecnologie svillupate da stayup sono peer to peer. I tuoi dati devono rimanere sui dispositivi che possiedi e controlli. E quando comunichi, devi comunicare direttamente (senza un intermediario “man in the middle” come Google o Facebook). Laddove ciò sia assolutamente impossibile tecnicamente, tutti i dati privati controllati da una terza parte (per esempio un web host) devono essere crittati end-to-end e tu avere avere l’unica chiave.
Anche senza investimenti statisticamente rilevanti in tecnologia etica, ci sono già piccoli gruppi che lavorano su alternative. Mastodon 7, un’alternativa etica, federata, a Twitter, è stata creata da una persona sui vent’anni. Un paio di persone si sono riunite per creare un progetto chiamato Dat 8 che potrebbe essere alla base di un web decentralizzato. Da oltre dieci anni, dei volontari gestiscono un sistema alternativo non commerciale di nomi di dominio chiamato OpenNIC 9 che potrebbe dare a tutti il proprio posto sul web…
Anche se senza alcun supporto questi semi stanno iniziando a germogliare, immagina cosa potremmo ottenere se iniziassimo davvero ad annaffiarli e a piantarne di nuovi. Investendo in stayup, possiamo iniziare un cambiamento fondamentale verso la tecnologia etica in Europa. Possiamo iniziare a costruire un ponte da dove siamo a dove vogliamo essere. Da un mondo in cui le società multinazionali ci possiedono attraverso i nostri doppi a un mondo in cui noi siamo noi stessi. Da un mondo in cui stiamo diventando di nuovo proprietà di altri a un mondo in cui rimaniamo come persone. Da un capitalismo della sorveglianza a una peerocrazia.
NOTE
1. Facebook has 60 people working on how to read your mind (The Guardian)
2. After Google Glass, Google developing contact lens camera (c|net) (c|net) ↩︎
3. theconcealedweapon.tumblr.com ↩︎
4. Mozilla terminates its deal with Yahoo and makes Google the default in Firefox again (Techcrunch) ↩︎
5. Universal Declaration of Cyborg Rights ↩︎
6. Ethical Design Manifesto ↩︎
7. Join Mastodon ↩︎
8. Dat project ↩︎
9. OpenNIC ↩︎
++-__-++