구글과 페이스북의 다른 모습을 상상할 수 있을까?

왜 구글은 웹사이트 네트워크를 페이스북이 만든 사용자 네트워크보다 더 문화적이고 질적으로 우수한 네트워크로 만들었을까? 그리고 이것이 운명의 필연이었을까? 반관료주의적 경향은 우리 시대에 평면적인 기술적, 사회적 구조를 선호하게 만들었지만, 계층화는 오히려 국가나 문화의 기능에 매우 중요하다. 따라서 현재의 기술적 수단과 고급문화, 대의민주주의 사이에 모순이 생겨났다. 이 모순은 관료적 통제 개념이 아닌 주권적 사용자 개념에 기반한 새로운 형태의 계층화를 통해서만 해결될 수 있다

계층화의 구조는 고급문화를 만든다 (출처)

정말로 기술이 세상을 움직이는 것일까? 모든 시대에는 그 시대정신이 있지만, 우리 시대에는 시대정신이 곧 기술을 의미하는 것처럼 보인다. 미디어와 학계에서 판매하는 메타내러티브는 점차 하나의 중심적 설명으로 수렴되고 있으며, 다른 설명들은 그에 비해 구식으로 보인다(기술적이지 않은 모든 것을 "구식"이라고 보는 기술적 내러티브에 따라). 기술은 역사의 엔진이다 - 예전부터 지금까지.

정신적 증거가 없는 상황에서, 석기 시대의 물질적 증거조차 기술의 진보로 해석되고, 과거의 모든 혁명은 그들의 기술적 측면을 통해 해석된다: 농업혁명, 산업혁명, 나침반 혁명, 유전체 혁명, 화약 혁명, 철강 혁명, 그리고 기술의 수만큼 새롭게 등장하는 다른 혁명들. 심지어 본질적인 정신적 변화(유일신교? 근대?)조차 알파벳 문자 혁명이나 인쇄 혁명과 같은 기술적 방식으로 설명된다. 오늘날 좋은, 설득력 있는, "깊이 있는" 역사적 설명이란 정신적 현상 아래에 있는 기술적 설명이다. 이는 현대적으로 업데이트된 마르크스주의적 유산이며, 아이러니하게도 우리의 과거로부터의 소외와 잘 어울린다. 결정론적 역사 설명이 오늘날 광범위한 비난을 받는 반면, 결정론적 기술 설명은 찬사를 받는다. 마침내 역사의 결정론적 엔진(예전부터 추구되어 온)이 발견되었다 - 바로 기술이다.

그리고 누가 감히 대안적 기술 발전 방향을 제시할 수 있을까? 분명 인문학자들은 아닐 것이다. 그들 중 극소수만이 자신들이 글을 쓰는 컴퓨터가 어떻게 작동하는지, 또는 인터넷을 가능하게 하는 수많은 기술적 층위 - 물리학적, 공학적, 수학적 - 를 이해한다. 인문학자들의 자연과학과 수학에 대한 무지(때로는 무지를 자랑스러워하는 것)는 매우 현대적인 현상으로, 사회학적 뿌리가 이데올로기적으로 변한 것이다. 발달된 정량적 사고가 가능한 사람은 사회의 거대한 기술적 장치 밖으로 나가도록 하는 인센티브 시스템에 거의 직면하지 않는다. 시도되지 않은 성공적인 기술 발전 방향을 생각할 수 있는 사람은 스타트업을 시작하면 된다. 그리고 무지가 만연할 때, 새로운 역사적 신 - 기술 - 앞에서 결정론적이고 경외심 가득한 사고가 생겨난다.




반면에, 누가 역사에 대한 기술의 엄청난 영향을 부인할 수 있을까? 그런데, 기술이 결정론적이지 않을 뿐만 아니라, 대안적 기술 발전 노선에 대한 대안적 역사를 통한 사고의 여지가 넓게 있을 뿐만 아니라, 기술 자체가 과거와 현재 현상의 심층적 설명이 아니다. 기술 아래에는 또 다른 층위가 숨어 있는데, 이것이 특정 맥락에서 기술의 발전과 영향을 결정하는 것이다 - 바로 기술의 아키텍처다. 정말로 하나의, 미국식 인터넷이 만들어질 수밖에 없었을까? 초강대국이 없는 다극화된 시대에(즉, 90년대의 특정 역사적 순간이 아닌 때에), 서로 잘 연결되지 않는 여러 경쟁 인터넷이 만들어질 수 있었다고 상상할 수 없을까? 러시아식, 독일식, 중국식 인터넷? 그리고 각각 자신들이 나온 문화에 맞는 고유한 아키텍처를 가진? 페이스북이 반드시 지금처럼 설계되어야만 했을까, 예를 들어 평판 알고리즘이 아닌 인기도 알고리즘을 통해, 단지 기술의 보이지 않는 손이 그곳으로 이끌었기 때문에? 물론이다, 라고 말할 것이다. 인기도는 곧 수익을 의미하니까. 하지만 구글은 인기도가 아닌 평판 알고리즘으로 설계되었고, 오히려 이것이 수익성의 원천이 되지 않았는가?

현재의 민주주의 아키텍처가 운명의 필연인가, 민주주의 개념의 깊은 본질에서 나오는 것인가, 아니면 특정 역사적 조건에서의 산물이며, 매우 다른 아키텍처에서도 완벽하게 민주적인 선거를 상상할 수 있는가, 예를 들어 깊은 아키텍처? 서구의 민주주의 위기가 소셜 네트워크의 기술(결정론적인 것으로 알려진) 자체에서 나와 운명의 필연인가, 아니면 그것의 매우 특정한 미국식 아키텍처 구현에서 나오는 것이며, 예를 들어 평판 기반 네트워크였다면 일어나지 않았을까? 현상 분석이 기술 자체에 기반하는 한, 그것은 거의 초자연적인 힘, 보이지 않는 상위 힘처럼 보인다(인간 본성이 "설명력"에 대해 예전부터 가진 욕망의 대상으로, 신이나 자본주의의 보이지 않는 손과 같은 형태로 구현되었다). 하지만 분석이 기술의 아키텍처 개념에 기반하는 순간 - 갑자기 대안들이 나타나고, 단순히 비판적-부정적이지 않은 사고가 가능해지며, 다른 사회적 아키텍처를 제안할 수 있게 된다.

기술의 아키텍처는 사회 질서뿐만 아니라 의식에도 영향을 미친다. 컴퓨터 초기에는 그 사용이 "기계어"를 아는 제사장들에게만 맡겨진 비의적 지식이었다면, 이후 "도스"와 같은 시스템에서는 직접적인 명령을 통한 군주제적 통치가 되었다. 하지만 현대적 운영체제가 등장했을 때야 비로소 인간-기계 관계를 규제하는 현재의 아키텍처가 만들어졌다. 이는 "사용자"(개인적 주권의 새로운 개념)를 그의 통제 밖에 있는 모든 것을 숨김으로써 오히려 강화하는 운영체제다. 그의 손에 있는 컴퓨터의 거대한 내부가 그에게 접근할 수 없고, 그는 그것의 존재를 인식하지 못하면서, 실제 작동 방식을 숨기는 시각적 인터페이스에서 작업을 수행하지만, 복잡하고 "깊은" 작업의 단순화된 그래픽 표현을 통해 "투명성"("윈도우")의 환상을 제공받는다. 이를 통해 그는 전례 없는 통제력을 얻게 되는데, 이는 주로 무제한적인 선택 능력과 표현의 자유라는 느낌으로 나타나며, 모든 자율적 메커니즘은 독립적이지만 대표적인 방식으로 - 즉 주권자의 눈앞에서 표현의 변화에 따라 - 계속 작동한다. 이 모든 것이 민주적 통치 형태와 유사하다: 통치의 일부가 아니며 국가를 직접 통치하지 않는 주권자에게 복종하는 대표자 선거로, 국가는 이론적으로는 그의 하인으로 여겨지지만, 실제로는 거대하고 반자율적인 관료제 시스템이다.

하지만 이러한 아키텍처는 정보 기술이 가능하게 하는 유일한 것이 아니며, 새로운 의식을 형성하는 새로운 아키텍처로 점차 대체되고 있다. 운영체제의 절차는 본질적으로 알고리즘적이 아닌 관료적이다. 하지만 구글의 미지의 알고리즘이 검색 결과를 정렬하고, 페이스북의 비밀 알고리즘이 피드의 순서를 정할 때, 사용자는 그 작동의 어떤 매개변수도 거의 능동적으로 제어할 수 없는 알고리즘에 수동적으로 의존하게 되었다. 우리는 페이스북에게 특정 단어나 주제에 관한 게시물을 더 보여달라고 지시할 수 없고, 구글에게 앞으로 세 번째 결과와 같은 결과를 더 많이 보고 싶다고 말할 수 없으며, 알고리즘에게 어떤 문제나 주제가 일반적으로 우리의 관심사라고 결정하여 말할 수도 없다. 우리가 이해하지 못하고 그 작동 방식도 모르며, 어떤 표현이나 개념화도 할 수 없는 숨겨진 영역이 크게 확장되었고, 개인의 통제 범위는 급격히 감소했다. 이 모든 것은 우리의 선호도와 행동 방식을 스스로 학습하는 심층 인공지능 알고리즘의 통합을 위한 서막일 뿐이며, 이는 그들의 작동에 대한 어떤 표현을 통해서도 직접 제어할 수 없다.




개인용 컴퓨터나 전화기를 작동시키는 알고리즘과 달리, 글로벌 알고리즘은 주권적 개인의 희생으로 점점 더 많은 힘을 얻고 있으며, 이는 경제와 네트워크 같은 글로벌 시스템이 국가 주권을 희생하며 힘을 얻는 것과 마찬가지다. 이는 주권적 사용자와 초플랫폼 및 그 작동 사이에 소외를 만드는 아키텍처이며, 우리는 이 소외의 결과를 전 세계의 정치와 문화에서 목격하고 있다: 제도에 대한 신뢰 하락, 포퓰리즘의 부상(주권 감소에 대한 반작용), 그리고 시스템의 중간 계층과 그들이 제공하는 필수적인 대표성의 급격한 쇠퇴(예: 문학이나 문화 시스템에서 "무슨 일이 일어나고 있는지" 대표하는 비평가들, 민주주의 시스템에서 "무슨 일이 일어나고 있는지" 대표하는 언론, 정신의 발전에서 "무슨 일이 일어나고 있는지" 대표하는 지식인들 등). 이 현상의 정점에서, 우리는 시민보다 더 잘 아는 비민주적 시스템의 부상(중국)이나 과도한 권력을 거친 조작에 사용하는 시스템(지속적인 미디어 조작을 하는 일련의 준권위주의 통치자들)을 목격하고 있다. 하지만 소외된 알고리즘적 아키텍처가 필연적이며, 기술의 본질과 알고리즘의 "본성"의 필연적 결과일까?

전혀 그렇지 않다. 모든 알고리즘에는 매개변수가 있으며, 의지만 있다면 사용자가 접근할 수 있게 만들 수 있고, 심지어 단순화된 표현으로도 가능하다. 페이스북이나 구글이 자신들의 알고리즘의 주요 매개변수를 사용자가 제어할 수 있게 하고, 그래픽 인터페이스로 의미 있게 표현하며, 내가 "인공지능"과 "고양이"에 관심이 있다고 선택할 수 있게 하고, 고급 언어로 쓰인 결과(프로그래밍하기 쉬운 매개변수)나 내가 지난해 읽은 위키피디아 항목 목록을 언급하는 결과에 우선순위를 줄 수 있게 하는 것을 충분히 상상할 수 있다. 알고리즘을 제어하는 기본적인 사용자 인터페이스는 미리 준비된 프로필이나 다른 사용자들이 만든 프로필에 따라 매개변수를 조정할 수도 있게 할 수 있다. 이렇게 하면 예를 들어 "히브리 문학"에 관심이 있는 사람의 미리 준비된 프로필을 사용하여 히브리 문학계에서 실시간으로 일어나는 일을 반영하는 피드를 받거나, 지난해 유전학의 가장 중요한 혁신에 대한 검색 결과를 받을 수 있을 것이다(현재는 상당한 검색 능력이 필요하다). 이러한 프로필은 편집자의 기능을 만들어내고, 결과나 피드의 순서 가중치도 사용자의 통제 하에 둘 수 있을 것이다(예를 들어 평판, 인기도 또는 트렌드에 따라). 왜 나는 오늘날 이번 주 이스라엘에서 가장 인기 있는 게시물이나 가장 많은 화난 이모지를 받은 게시물이 무엇인지 알 수 없는 걸까? 이러한 가능성은 현재의 폐쇄된 버블 네트워크 대신 훨씬 더 투명하고 넓은 소셜 네트워크를 만들어낼 것이다.

구글과 페이스북이 자신들의 알고리즘의 글로벌 매개변수를 제어하는 것처럼, 모든 사용자(원하는 사람)도 원칙적으로나 실제적으로 훨씬 더 개인적이고 투명한 방식으로 알고리즘을 제어할 수 있었을 것이다. 그들이 경제적으로 손해를 볼까? 전혀 명확하지 않다. 이는 단지 그들의 능력 범위 내에 있는 조금 더 많은 알고리즘적 노력이 필요했을 뿐이며, 만약 사용자의 기술적 주권에 대한 요구가 대중적 동력을 얻었다면 - 이는 실제로 일어났을 것이다. 하지만 이는 단지 구글이나 페이스북(및 유사 기업들)에 대한 구체적인 요구만이 아니다. 이는 우리가 앞으로의 인공지능과의 인터페이스를 위해 사활을 걸고 지켜야 할 원칙적인 입장이다. 우리가 선택을 가능하게 하는 단순화된 표현이 없는 기술은 재앙의 처방이다. 마치 우리가 주권과 대표자와 정당의 선거가 없는 국가가 재앙의 처방인 것처럼.

일반적으로, 시스템의 중간 계층(중개자, 편집자, 대표자, 비평가, 보도자, 인터페이스)은 그들의 올바른 작동에 엄청난 중요성을 가지고 있으며, 이는 드물게 적절한 이해와 보호를 받는다(이 모든 중개자들이 왜 필요한가?). 이는 이론적 기반(깊은 패러다임)과 실제적 기반(예를 들어 매우 계층화된 뇌의 활동)이 있음에도 불구하다. 만약 우리가 우리를 섬기는(그 반대가 아닌) 기술, 기능하는 국가, 건강한 문화 시스템을 원한다면 - 우리는 계층화(계층 아키텍처)의 중요성을 내면화해야 하며, 시스템에 대한 주권자의 완전한 통제가 바람직하지도 가능하지도 않지만, 반면에 통제력 상실도 위험하다는 것을 이해해야 한다. 따라서 우리는 시스템에서 관료적 통제 개념이 아닌 각 단계에서의 점진적인 통제력 상실을 가능하게 하는 계층화를 육성해야 하며, 오직 이렇게 해야만, 아마도, 우리는 우리 눈앞에서 발전하고 있는 거대한 시스템의 복잡성에 대처할 수 있을 것이며, 특히 인공지능과도 대처할 수 있을 것이다. 왜냐하면 계층화는 문화를 의미하고 - 평면성은 야만을 의미하기 때문이다.