É possível imaginar um Google e Facebook diferentes?

Por que o Google transformou a rede de sites em uma rede cultural e de maior qualidade do que a rede de usuários criada pelo Facebook, e isso é uma fatalidade? A tendência anti-burocrática de nossa época criou uma preferência por arquiteturas tecnológicas e sociais planas, mas a estratificação tem uma importância enorme para o funcionamento de um estado ou cultura. Assim, criou-se uma contradição entre os meios tecnológicos atuais e a alta cultura e a democracia representativa. Esta contradição só será resolvida através de um novo tipo de estratificação, que não se baseia na ideia de controle burocrático, mas na ideia do usuário soberano

A arquitetura da estratificação cria alta cultura (Fonte)

A tecnologia realmente impulsiona o mundo? Cada época tem seu Zeitgeist [espírito do tempo], mas em nossa época parece que Zeitgeist significa tecnologia. A meta-narrativa que nos vendem na mídia e na academia está gradualmente convergindo para uma explicação central, ao lado da qual outras explicações parecem antiquadas (de acordo com a narrativa tecnológica, onde tudo que não é tecnológico é "antiquado"): a tecnologia é o motor da história - desde sempre.

Na ausência de evidências espirituais, até os achados materiais da Idade da Pedra são interpretados como avanço tecnológico, e todas as revoluções do passado são interpretadas através de seu aspecto tecnológico: a revolução agrícola, a revolução industrial, a revolução da bússola, do genoma, da pólvora, do aço, e outras revoluções que surgem a cada momento conforme o número de tecnologias. Até mudanças espirituais fundamentais (monoteísmo? Era Moderna?) são explicadas tecnologicamente, por exemplo através da revolução da escrita alfabética ou da revolução da imprensa. Uma boa explicação histórica, convincente e "profunda" hoje é uma explicação tecnológica subjacente aos fenômenos espirituais. Esta é uma herança marxista que recebeu uma atualização contemporânea e, ironicamente, se encaixa muito bem com nossa alienação de nosso próprio passado. E se explicações históricas deterministas são hoje amplamente condenadas - explicações tecnológicas deterministas são celebradas. Finalmente encontrou-se o motor determinista (procurado desde sempre) para a história - e ele é a tecnologia.

E quem ousaria discordar e propor direções alternativas de desenvolvimento tecnológico? Certamente não os humanistas, poucos dos quais entendem como funciona o computador em que escrevem suas reflexões, ou as inúmeras camadas tecnológicas - físicas, de engenharia e matemáticas - que possibilitam a existência da internet. A ignorância (e às vezes o orgulho da ignorância) dos humanistas em ciências naturais e matemática é um fenômeno muito moderno, que tem raízes sociológicas que se tornaram ideológicas, pois qualquer pessoa capaz de pensamento quantitativo desenvolvido enfrenta um sistema de incentivos que raramente o direcionará para fora do imenso aparato tecnológico da sociedade. Quem é capaz de pensar em direções bem-sucedidas de desenvolvimento tecnológico não tentadas - que abra uma startup. E quando a ignorância reina, surge um pensamento determinista e cheio de reverência diante do novo deus histórico - a tecnologia.




Por outro lado, quem ainda negaria a enorme influência da tecnologia na história? Bem, não só a tecnologia não é determinista, e há amplo espaço para pensar através de histórias alternativas sobre linhas alternativas de desenvolvimento tecnológico, mas não é a própria tecnologia que é a explicação profunda para os fenômenos do passado e do presente. Sob a tecnologia se esconde outra camada, que é a que determina seu desenvolvimento e influência em um contexto específico - e esta é a arquitetura da tecnologia. Será que realmente precisava ser criada uma única internet, americana? Não poderíamos imaginar que em uma era multipolar, sem uma superpotência (ou seja, não no momento histórico específico dos anos 90), teriam sido criadas várias internets competindo, que não se conectariam bem? Uma internet russa, alemã, chinesa? E cada uma com sua própria arquitetura, que corresponderia à cultura da qual veio? O Facebook precisava ser projetado da maneira que foi projetado, por exemplo através de um algoritmo de popularidade em vez de um algoritmo de reputação, só porque a mão invisível da tecnologia o levou para lá? Certamente, dirão, afinal popularidade significa lucro. Mas o Google é projetado usando um algoritmo de reputação e não de popularidade, e é justamente daí que vem sua lucratividade, não é?

A arquitetura atual da democracia é uma fatalidade, algo que vem da profundidade do conceito de democracia, ou um produto histórico em condições históricas específicas, e podemos imaginar eleições perfeitamente democráticas em arquiteturas muito diferentes, por exemplo uma arquitetura profunda? A crise da democracia no Ocidente vem da própria tecnologia (determinista, como sabemos) das redes sociais e portanto é uma fatalidade, ou talvez venha de uma implementação americana muito específica de sua arquitetura, que não teria acontecido, por exemplo, em uma rede baseada em reputação? Enquanto a análise dos fenômenos se baseia na própria tecnologia, ela parece uma força estíquica, quase uma força superior invisível (aquele objeto de desejo da natureza humana por uma "força explicativa" desde sempre, que teve encarnações como Deus ou a mão invisível capitalista). Mas no momento em que a análise se baseia no conceito de arquitetura da tecnologia - de repente surgem as alternativas, e se torna possível um pensamento que não é apenas crítico-negativo, e a proposta de outras arquiteturas sociais.

A arquitetura da tecnologia influencia também a consciência, e não apenas a ordem social. Se no início da era do computador, seu uso era um conhecimento esotérico reservado aos sacerdotes que conheciam a "linguagem de máquina", depois em sistemas como o "DOS" ele se tornou um governo monárquico através de comandos diretos. Mas só quando surgiu o sistema operacional moderno, criou-se a arquitetura atual que regula as relações homem-máquina. Este é um sistema operacional que empodera o "usuário" (uma nova ideia de soberania individual) justamente por esconder dele tudo o que não está sob seu controle. Todas as enormes entranhas do computador em suas mãos não lhe são acessíveis, e ele não está ciente de sua existência, enquanto executa ações em uma interface visual que esconde seu verdadeiro modo de operação, mas dá a ilusão de transparência ("janelas") através de representações gráficas simplificadas de operações complexas e "profundas". Assim, ele lhe dá um controle sem precedentes, que se manifesta principalmente na sensação de capacidade de escolha ilimitada e liberdade de expressão, enquanto todos os mecanismos autônomos operam continuamente de forma independente mas representativa - ou seja, de acordo com a mudança nas representações diante dos olhos do soberano. Tudo isso, semelhante à forma de governo democrática: eleição de representantes sujeitos a um soberano que não faz parte do governo, e não governa diretamente o estado, que é teoricamente visto como seu servidor, enquanto na prática é um imenso sistema burocrático semi-autônomo.

Mas tal arquitetura não é a única que a tecnologia da informação permite, e está sendo gradualmente substituída por uma nova arquitetura, que molda uma nova consciência. Os procedimentos do sistema operacional são essencialmente burocráticos e não algorítmicos. Mas quando o misterioso algoritmo do Google organizou os resultados da busca, e o secreto do Facebook organizou a ordem do feed, o usuário se tornou passivamente dependente de um algoritmo sobre o qual ele tem quase nenhum controle ativo em quaisquer parâmetros de sua operação. Não podemos instruir o Facebook a nos mostrar mais posts que lidam com uma determinada palavra ou área, ou dizer ao Google que queremos mais resultados como o terceiro no futuro, ou decidir dizer aos algoritmos qual questão ou assunto nos interessa em geral. O reino do oculto aos nossos olhos, que não entendemos e não temos ideia de como funciona, e também não temos nenhuma representação ou conceituação dele, expandiu-se maravilhosamente, e o alcance do controle do indivíduo caiu acentuadamente. E tudo isso é apenas o prelúdio para a integração de algoritmos de inteligência artificial profunda que aprenderão nossas preferências e modos de operação por si mesmos, sem possibilidade de controlá-los diretamente através de qualquer representação de sua operação.




Os algoritmos globais, ao contrário daqueles que operam nosso computador ou telefone pessoal, estão gradualmente ganhando poder às custas do indivíduo soberano, assim como os sistemas globais, como a economia e a rede, estão ganhando poder às custas da soberania do estado. Esta é uma arquitetura que cria alienação entre o usuário soberano e a plataforma superior e seu funcionamento, e vemos os resultados desta alienação na política e na cultura em todo o mundo: declínio da confiança nas instituições, ascensão do populismo (uma reação ao declínio da soberania), e o rápido declínio do nível intermediário nos sistemas e a representação vital que ele fornece (por exemplo: críticos que representam "o que está acontecendo" em um sistema literário ou cultural, jornalismo que representa "o que está acontecendo" no sistema democrático, intelectuais que representam "o que está acontecendo" no desenvolvimento do espírito, etc.). No auge do fenômeno, testemunhamos a ascensão de sistemas não democráticos que sabem melhor que o cidadão o que é bom para ele (China) ou usam seu poder excedente para manipulação grosseira sobre ele (uma série de governantes semi-autoritários que exercem manipulação constante da mídia). Mas a arquitetura algorítmica alienada é uma necessidade, e uma consequência da natureza da tecnologia e da "natureza" dos algoritmos?

Certamente que não. Todo algoritmo tem parâmetros, que podem ser tornados acessíveis ao usuário, e até mesmo em uma representação simplificada, se houver vontade para isso. Certamente é possível imaginar um Facebook ou Google que tornam os parâmetros centrais de seus algoritmos acessíveis ao controle do usuário, e os representam em uma interface gráfica que tem significado para ele, e me permitem escolher me interessar por "inteligência artificial" e "gatos", dando preferência a resultados escritos em linguagem elevada (um parâmetro simples de programar) ou aqueles que mencionam a lista de valores da Wikipédia que li no último ano. Uma interface de usuário elementar para controle do algoritmo também permitiria ajustar os parâmetros de acordo com perfis prontos, ou aqueles criados por outros usuários. Assim, seria possível usar, por exemplo, um perfil pronto de alguém interessado em "literatura portuguesa", e receber um feed que reflete o que está acontecendo na literatura portuguesa em tempo real, ou por exemplo resultados de busca das inovações mais importantes em genética no último ano, o que atualmente requer habilidades de busca não triviais. Tal perfil criaria uma função de editor, e a ponderação da ordem dos resultados ou do feed também poderia estar sujeita ao controle do usuário (por exemplo, por reputação, popularidade ou tendência). Por que não posso saber hoje quais são os posts mais populares em Portugal esta semana, ou aqueles que acumularam mais emoji de raiva? Tal possibilidade criaria uma rede social muito mais transparente e ampla - em vez da atual rede de bolhas fechadas.

Assim como Google e Facebook controlam os parâmetros globais de seus algoritmos, cada usuário (interessado nisso) poderia em princípio e na prática controlar o algoritmo de forma muito mais pessoal e transparente. Eles perderiam economicamente com isso? Não está nada claro. Isso simplesmente exigiria um pouco mais de esforço algorítmico, que está certamente ao seu alcance, e se a demanda por soberania tecnológica do usuário ganhasse impulso público - isso até aconteceria. Mas esta não é apenas uma demanda pontual do Google ou Facebook (e similares). Esta é uma posição fundamental que devemos defender e preservar com todas as nossas forças na arquitetura das interfaces homem-máquina, em preparação para a interface futura com a inteligência artificial. Tecnologia da qual não temos uma representação simplificada de sua operação que permita escolha é uma receita para o desastre, assim como um estado no qual não temos soberania e eleições de representantes e partidos é uma receita para o desastre.

Em geral, as camadas intermediárias nos sistemas (os mediadores, editores, representantes, críticos, repórteres, interfaces) têm uma importância enorme para seu funcionamento adequado, que raramente recebe a compreensão e preservação merecida (quem precisa de todos esses mediadores?), e isso apesar de sua base teórica (o paradigma "profundo") e prática (por exemplo na atividade do cérebro, que é muito estratificada). Se queremos tecnologia que nos sirva (e não o contrário), um estado funcional, e um sistema cultural saudável - precisamos internalizar a importância da estratificação (arquitetura em camadas), e entender que o controle total do soberano sobre o sistema não é desejável nem possível, mas por outro lado a perda de controle também é perigosa. Portanto, devemos cultivar nos sistemas justamente a estratificação que permite uma perda gradual de controle em cada estágio, e só assim, talvez, poderemos lidar com a complexidade dos imensos sistemas que estão se desenvolvendo diante de nossos olhos, e particularmente com a inteligência artificial. Porque estratificação significa cultura - e superficialidade significa barbárie.