È possibile immaginare un Google e Facebook diversi?

Perché Google ha trasformato la rete dei siti in una rete culturalmente e qualitativamente superiore rispetto alla rete degli utenti creata da Facebook, e questo è un destino inevitabile? La tendenza anti-burocratica ha creato nella nostra epoca una preferenza per architetture tecnologiche e sociali piatte, ma la stratificazione ha un'importanza enorme per il funzionamento di uno stato o di una cultura. Si è così creata una contraddizione tra gli attuali mezzi tecnologici e l'alta cultura e la democrazia rappresentativa. Questa contraddizione si risolverà solo attraverso un nuovo tipo di stratificazione, non basata sull'idea del controllo burocratico, ma sull'idea dell'utente sovrano

L'architettura della stratificazione crea l'alta cultura (Fonte)

È davvero la tecnologia che muove il mondo? Ogni epoca ha il suo Zeitgeist, ma nella nostra epoca sembra che Zeitgeist significhi tecnologia. La meta-narrativa che ci viene venduta nei media e nell'accademia sta gradualmente convergendo verso una spiegazione centrale, rispetto alla quale le altre spiegazioni sembrano obsolete (in linea con la narrativa tecnologica, secondo cui tutto ciò che non è tecnologico è "obsoleto"): la tecnologia è il motore della storia - da sempre.

In assenza di reperti spirituali, anche i reperti materiali dell'età della pietra vengono interpretati come progresso tecnologico, e tutte le rivoluzioni del passato vengono interpretate attraverso il loro aspetto tecnologico: la rivoluzione agricola, la rivoluzione industriale, la rivoluzione della bussola, del genoma, della polvere da sparo, dell'acciaio, e altre rivoluzioni che emergono di continuo come il numero delle tecnologie. Persino i cambiamenti spirituali fondamentali (monoteismo? età moderna?) vengono spiegati tecnologicamente, ad esempio attraverso la rivoluzione della scrittura alfabetica o la rivoluzione della stampa. Una buona spiegazione storica, convincente e "profonda" oggi è una spiegazione tecnologica che sta sotto i fenomeni spirituali. Questa è un'eredità marxista che ha ricevuto un aggiornamento contemporaneo e, ironicamente, si integra perfettamente con la nostra alienazione dal nostro passato. E se le spiegazioni storiche deterministiche sono oggi ampiamente condannate - le spiegazioni tecnologiche deterministiche sono celebrate. Finalmente è stato trovato il motore deterministico (cercato da sempre) della storia - ed è la tecnologia.

E chi oserebbe dissentire e proporre direzioni alternative di sviluppo tecnologico? Certamente non gli umanisti, pochi dei quali capiscono come funziona il computer su cui scrivono le loro riflessioni, o gli innumerevoli strati tecnologici - fisici, ingegneristici e matematici - che rendono possibile l'esistenza di Internet. L'ignoranza (e talvolta il vanto dell'ignoranza) degli umanisti nelle scienze naturali e nella matematica è un fenomeno molto moderno, che ha radici sociologiche diventate ideologiche, poiché chiunque sia capace di pensiero quantitativo sviluppato si trova di fronte a un sistema di incentivi che raramente lo indirizzerà fuori dall'enorme apparato tecnologico della società. Chi è in grado di pensare a direzioni di sviluppo tecnologico di successo non ancora tentate - che fondi una startup. E quando l'ignoranza regna, si sviluppa un pensiero deterministico e pieno di reverenza davanti al nuovo dio storico - la tecnologia.




D'altra parte, chi può ancora negare l'enorme influenza della tecnologia sulla storia? Ebbene, non solo la tecnologia non è deterministica, e c'è ampio spazio per pensare attraverso storie alternative su linee di sviluppo tecnologico alternative, ma non è la tecnologia stessa la spiegazione profonda dei fenomeni del passato e del presente. Sotto la tecnologia si nasconde un altro strato, che è quello che determina il suo sviluppo e la sua influenza in un contesto specifico - ed è l'architettura della tecnologia. Doveva davvero essere creata una sola Internet, americana? Non possiamo immaginare che in un'era multipolare, senza una superpotenza (cioè non nel momento storico specifico degli anni '90), sarebbero state create diverse Internet in competizione, che non si connettono bene tra loro? Un'Internet russa, tedesca, cinese? E ognuna con la propria architettura, che corrisponde alla cultura da cui proviene? Facebook doveva necessariamente essere progettato nel modo in cui è progettato, ad esempio attraverso un algoritmo di popolarità invece di un algoritmo di reputazione, solo perché lì l'ha portato la mano invisibile della tecnologia? Certamente, diranno, dopotutto popolarità significa profitto. Ma Google è progettato usando un algoritmo di reputazione e non di popolarità, e proprio da questo deriva la sua redditività, no?

L'attuale architettura della democrazia è un destino inevitabile, qualcosa che deriva dalla profondità del concetto di democrazia, o un prodotto storico in condizioni storiche specifiche, e si possono immaginare elezioni perfettamente democratiche in architetture molto diverse, ad esempio un'architettura profonda? La crisi della democrazia in Occidente deriva dalla tecnologia stessa (deterministica, come noto) dei social network ed è quindi un destino inevitabile, o forse deriva da un'implementazione americana molto specifica della sua architettura, che non sarebbe accaduta, ad esempio, in una rete basata sulla reputazione? Finché l'analisi dei fenomeni si basa sulla tecnologia stessa, essa appare come una forza stocastica, quasi come una forza superiore invisibile (quell'oggetto del desiderio della natura umana per una "forza esplicativa" da sempre, che ha trovato incarnazioni come Dio o la mano invisibile capitalista). Ma nel momento in cui l'analisi si basa sul concetto di architettura della tecnologia - improvvisamente emergono le alternative, e diventa possibile un pensiero che non è solo critico-negativo, e la proposta di altre architetture sociali.

L'architettura della tecnologia influenza anche la coscienza, non solo l'ordine sociale. Se all'inizio dell'era dei computer, il suo uso era una conoscenza esoterica riservata ai sacerdoti che conoscevano il "linguaggio macchina", successivamente in sistemi come "DOS" è diventato un regno monarchico attraverso comandi diretti. Ma solo quando è nato il sistema operativo moderno, si è creata l'architettura attuale che regola le relazioni uomo-macchina. Questo è un sistema operativo che potenzia l'"utente" (una nuova idea di sovranità individuale) proprio nascondendogli tutto ciò che non è sotto il suo controllo. Tutte le enormi viscere del computer che ha tra le mani non gli sono accessibili, e non è consapevole della loro esistenza, mentre esegue operazioni in un'interfaccia visiva che nasconde il loro vero funzionamento, ma gli dà l'illusione della trasparenza ("windows") attraverso rappresentazioni grafiche semplicistiche di operazioni complesse e "profonde". In questo modo gli conferisce un controllo senza precedenti, che si manifesta principalmente nella sensazione di capacità di scelta illimitata e libertà di espressione, mentre tutti i meccanismi autonomi operano costantemente in modo indipendente ma rappresentativo - cioè secondo il cambiamento nelle rappresentazioni davanti agli occhi del sovrano. Tutto questo, similmente alla forma di governo democratica: elezioni di rappresentanti soggetti a un sovrano che non fa parte del governo, e non governa direttamente lo stato, che è teoricamente considerato al suo servizio, mentre in pratica è un enorme sistema burocratico semi-autonomo.

Ma tale architettura non è l'unica che la tecnologia dell'informazione permette, e sta venendo gradualmente sostituita da una nuova architettura, che plasma una nuova coscienza. Le procedure del sistema operativo sono essenzialmente burocratiche e non algoritmiche. Ma quando l'algoritmo misterioso di Google ha ordinato i risultati di ricerca, e quello segreto di Facebook ha ordinato il feed, l'utente è diventato passivamente dipendente da un algoritmo su cui non ha quasi nessun controllo attivo dei parametri. Non possiamo dire a Facebook di mostrarci più post che trattano una certa parola o un certo argomento, o dire a Google che in futuro vogliamo più risultati come il terzo, o decidere di dire agli algoritmi quale questione o argomento ci interessa in generale. Il regno di ciò che è nascosto ai nostri occhi, che non comprendiamo e non abbiamo idea di come funzioni, e di cui non abbiamo nemmeno alcuna rappresentazione o concettualizzazione, si è enormemente espanso, e il controllo dell'individuo è diminuito drasticamente. E tutto questo è solo il preludio all'integrazione di algoritmi di intelligenza artificiale profonda che impareranno le nostre preferenze e i nostri modi di agire da soli, senza possibilità di controllarli direttamente attraverso qualsiasi rappresentazione del loro funzionamento.




Gli algoritmi globali, a differenza di quelli che ci fanno funzionare il computer o il telefono personale, stanno accumulando potere a spese dell'individuo sovrano, così come i sistemi globali, come l'economia e la rete, stanno accumulando potere a spese della sovranità statale. Questa è un'architettura che crea alienazione tra l'utente sovrano e la piattaforma superiore e il suo funzionamento, e vediamo i risultati di questa alienazione nella politica e nella cultura in tutto il mondo: diminuzione della fiducia nelle istituzioni, ascesa del populismo (reazione alla diminuzione della sovranità), e rapido declino del livello intermedio nei sistemi e della rappresentazione essenziale che fornisce (per esempio: critici che rappresentano "cosa succede" in un sistema letterario o culturale, giornalismo che rappresenta "cosa succede" nel sistema democratico, intellettuali che rappresentano "cosa succede" nello sviluppo dello spirito, ecc.). Al culmine del fenomeno, assistiamo all'ascesa di sistemi non democratici che sanno meglio del cittadino cosa è giusto per lui (Cina) o usano il loro potere eccessivo per manipolarlo grossolanamente (una serie di governanti semi-autoritari che esercitano una costante manipolazione mediatica). Ma l'architettura algoritmica alienata è una necessità, e una conseguenza della natura della tecnologia e della "natura" degli algoritmi?

Certamente no. Ogni algoritmo ha parametri, che possono essere resi accessibili all'utente, e persino in una rappresentazione semplicistica, se c'è la volontà di farlo. Si può certamente immaginare Facebook o Google che rendono accessibili i parametri principali dei loro algoritmi al controllo dell'utente, e li rappresentano in un'interfaccia grafica che ha senso per lui, e mi permettono di scegliere di interessarmi all'"intelligenza artificiale" e ai "gatti", dando priorità ai risultati scritti in un linguaggio elevato (un parametro semplice da programmare) o quelli che citano la lista delle voci di Wikipedia che ho letto nell'ultimo anno. Un'interfaccia utente elementare per il controllo dell'algoritmo permetterebbe anche di regolare i parametri secondo profili predefiniti, o creati da altri utenti. Così si potrebbe utilizzare ad esempio un profilo predefinito di chi si interessa di "letteratura italiana", e ricevere un feed che riflette ciò che sta accadendo nella letteratura italiana in tempo reale, o per esempio risultati di ricerca delle innovazioni più importanti in genetica nell'ultimo anno, cosa che oggi richiede capacità di ricerca non indifferenti. Tale profilo creerebbe una funzione di editore, e la ponderazione dell'ordine dei risultati o del feed potrebbe essere anch'essa sotto il controllo dell'utente (per esempio per reputazione, popolarità o tendenza). Perché oggi non posso sapere quali sono i post più popolari in Italia questa settimana, o quelli che hanno raccolto più emoji arrabbiati? Tale possibilità creerebbe una rete sociale molto più trasparente e ampia - invece dell'attuale rete di bolle chiuse.

Come Google e Facebook controllano i parametri globali dei loro algoritmi, così anche ogni utente (interessato) potrebbe in linea di principio e praticamente controllare l'algoritmo in modo personale e molto più trasparente. Ci perderebbero economicamente? Non è affatto chiaro. Questo richiederebbe solo un po' più di sforzo algoritmico, che è certamente alla loro portata, e se la richiesta di sovranità tecnologica dell'utente avesse preso slancio pubblico - la cosa sarebbe anche accaduta. Ma questa non è solo una richiesta puntuale a Google o Facebook (e simili). È una posizione di principio che dobbiamo difendere strenuamente nell'architettura delle interfacce uomo-macchina, in vista dell'interfaccia futura con l'intelligenza artificiale. Una tecnologia di cui non abbiamo una rappresentazione semplicistica del funzionamento che permetta la scelta è una ricetta per il disastro, così come uno stato in cui non abbiamo sovranità ed elezioni di rappresentanti e partiti è una ricetta per il disastro.

In generale, gli strati intermedi nei sistemi (mediatori, editori, rappresentanti, critici, recensori, interfacce) hanno un'importanza enorme per il loro corretto funzionamento, che raramente riceve la comprensione e la protezione che merita (chi ha bisogno di tutti questi intermediari?), e questo nonostante la sua base teorica (il paradigma "profondo") e pratica (per esempio nell'attività del cervello, molto stratificata). Se vogliamo una tecnologia che ci serva (e non il contrario), uno stato funzionante, e un sistema culturale sano - dobbiamo interiorizzare l'importanza della stratificazione (architettura a strati), e capire che il controllo totale del sovrano sul sistema non è desiderabile né possibile, ma d'altra parte anche la perdita di controllo è pericolosa. Pertanto, bisogna coltivare nei sistemi proprio la stratificazione che permette una perdita graduale di controllo ad ogni livello, e solo così, forse, potremo affrontare la complessità degli enormi sistemi che si stanno sviluppando davanti ai nostri occhi, e in particolare con l'intelligenza artificiale. Perché stratificazione significa cultura - e superficialità significa barbarie.