자연에서 자연스러운 것은 무엇인가? 자연이 자연스럽지 않을 수 있을까? 현대 과학의 큰 문제들은 단순히 지식의 공백(또는 거대한 구멍)일 뿐이어서 자연을 기적으로 만드는 것인가, 아니면 패러다임의 변화와 새로운 종류의 과학적 설명이 필요함을 암시하는 것인가? 시스템(자연)의 법칙이 아닌 시스템의 학습에 대한 것인가? 세부사항이 많고 따라서 개연성이 낮은 네트워크적이고 서술적인 과학적 세계관(우리는 모든 설명을 제거해야 한다!)과 학습적 설명 사이의 차이에 대하여
다가오는 세기에 뇌과학에서 일어날 수 있는 최악의 일은 무엇일까? 뇌에 "진화"가 없다는 발견이다. 생물학과는 달리, 모든 큰 성공이 하나의 알고리즘에서 비롯되었고 이것이 어떤 과학 분야에서도 가장 단순하고 성공적이며 포괄적인 설명(물리학보다 훨씬 더!)인데 반해, 우리는 뇌에서는 일반화할 수 있는 포괄적이거나 중심적인 알고리즘이 전혀 없다는 것을 발견하게 될 수 있다. 뇌가 수많은 균형에 의존하고 있으며, 아마도 유전적으로 프로그래밍되어 있어서 재현하거나 개선하거나 심지어 이해하기도 매우 어려울 수 있다. 간단히 말해서: 뇌가 단순히 복잡할 뿐만 아니라 매우 복잡하고 심지어 풀 수 없는 매듭과 같다는 발견이다. 다윈 이전의 생물학처럼 보였던 것처럼: 많은 연관된 사례들의 집합, 즉 네트워크로서 - 알고리즘이 아닌. 언어와 분류, 특성화 시스템으로서 - 학습 시스템이 아닌.
그리고 뇌과학의 큰 희망은 무엇인가? 뇌의 아인슈타인이 나타나서 뇌의 작동을 잘 설명하는 기본적이고 과학적인 원리들을 해독하는 것이다. 즉, 뇌가 단순히 빅데이터와 괴물 같은 절차적 운영체제가 아닌 강력한 알고리즘에 의해 구동된다는 것이다. 마더보드 수준의 미세 조정에 의존하지 않는다는 것이다. 그렇지 않으면, 초지능을 만드는 데 성공하더라도 매우 느리고 긴 진화의 산물인 정확한 균형을 만들어내기가 매우 어려울 것이며, 여기서 재앙까지의 거리는 매우 짧다. 즉, 오래된 진화 외에 새로운 학습 알고리즘이 있다는 것을 발견하지 못한다면 - 우리의 상황은 나쁘다. 그리고 "딥러닝"이 뇌의 학습 시스템의 가장 표면적인 단계를 넘어서 우리를 발전시킬 수 있다는 것을 누가 보장할 수 있을까?
이 미세 조정의 문제는, 효과적인 학습 및 적응 알고리즘과 대비되어, 아마도 오늘날 과학의 모든 정확한 과학 분야에서, 수학을 포함하여 가장 기본적인 문제일 것이다. 질문은 풍부한 복잡성이 어떻게 생성되는가이다. 만약 우리가 중세시대처럼 창조주나 설계자의 존재를 믿는다면, 우리 세계에 대한 매우 복잡하고 풍부한 설명은 문제가 되지 않는다. 하지만 현대 과학의 영역에 있다면, 우리는 우주가 무한한 가능성 중에서 특별히 뛰어난 정밀도로 복잡성을 위해 설계되었다는 것을, 그것도 눈에 띄는 이유도 없이, 받아들이기 어려울 것이다. 과학은 우연이 아닌 일어날 사례를 찾는다. 따라서 오늘날 과학에서 가장 중요한 세 가지 질문은 사실 하나의 질문이다:
- 물리학에서: 왜 우주는 마치 설계된 것처럼 보이는가? 왜 우주는 복잡성(그리고 생명!)을 위해 만들어졌으며, 조건이나 상수의 작은 변화만으로도 평범하고 재미없는 우주가 되었을까? 진화처럼 우주의 복잡성을 만든 기본적인 발전 알고리즘을 찾을 수 있을까, 아니면 결국 신이나 설계자, 또는 복권이 안전한 도박처럼 보이는 초운이 있다고 가정해야 할까? 어떻게 그리고 왜, 신의 이름으로, 소수점 이하 그렇게 많은 자리수의 매우 정확한 균형 시스템을 가진 자연법칙이 만들어졌을까? 어떻게 거기에 정확히 필요한 양의 암흑물질과 암흑에너지가 존재할 수 있을까? 우리가 세속적이라면 여기 뭔가가 정말 수상하다. 인류원리는 모든 것에 대한 답이 될 수 없다. 사실, 그것은 아마도 아무것에도 답이 되지 않는다. 오늘날 우주는 신의 존재를 주장하는 시계공 논증의 인공적인 시계처럼 점점 더 보인다. 그리고 미세조정상수 - 정말 무시무시하다.
- 생물학에서: 페르미 패러독스. 만약 진화가 우주의 일반적인 알고리즘이라면 - 왜 우리에게만 성공했을까, 적어도 보이는 한에서는 (별들의 수준과 그 이상에 영향을 미칠 수 있는 진보된 문명의 증거는 어디 있는가? 또는 우주의 신호들에 대해서는? 우주는 완전히 자연스러워 보인다). 어떻게 여기서만 아마도 매우 매우 개연성이 낮은, 즉 천문학적인 격차로 있을 법하지 않은 우연의 연속이 만들어질 수 있었을까. 여기 뭔가가 정말정말 수상하다. 지적 생명체가 없다는 것은 불가능하다. 이것은 다시 시계공의 손으로 조정된 것처럼 보이는 조건에서 복잡성이 만들어지는 문제다.
- 수학에서: 도대체 왜 수학이 있는가, 플라톤의 이데아 세계를 믿지 않는다고 가정한다면 (그리고 무서운 것은 대부분의 수학자들이 믿는다는 것이다, 어떻게 이런 일이 일어날 수 있기 때문에)? 이 미친 듯이 아름다운 복잡성은 어디서 왔는가, 정말 비논리적이며, 게다가 가장 난해한 영역에서도 계속해서 우주의 모든 현상을 이해하는 데 유용한 것으로 드러난다. 무슨 일이 일어나고 있는 거지? 이게 어떻게 가능할 수 있지? 만약 우주가 원자시계보다 더 정밀한 스위스 시계공의 손으로 조정되었다면, 수학은 신적인 능력을 가진 천재 예술가의 손으로 만들어진 것처럼 보인다, 전혀 논리적이지 않다. 이런 현상이 어떻게 세상에 왔는가? 소수와 같은 단순한 현상 안에서 전혀 예상치 못한 무한히 복잡한 질서가 어떻게 생성되는가? 그것들이 그렇게 배열된 것이 그냥 우연인가? 수학의 모든 분야에서 정말 단순하고 추상적인 구조로부터 그토록 풍부하고 턱이 빠질 만한 복잡성을 계속해서 발견할 수 있다는 것이 어떻게 가능한가? 이것은 달까지 냄새가 난다.
이 세 가지 큰 변칙성은 우주에 있는 깊은 질서를 암시하며, 아마도 우리가 이해하지 못하는 깊은 학습과 적응, 복잡성 생성 알고리즘을 암시한다. 우리가 진화를 이해하지 못했던 것처럼 - 그리고 생물학적 세계가 우리에게 매우 무작위적이고 끔찍히 복잡해 보였지만, 또한 그 적응에서 놀랍고 설계자의 손으로 만들어진 것처럼 보였던 것처럼 - 다른 학습 알고리즘의 발견이 우주적 시계의 문제를 해결할 수 있기를 희망할 수 있다. 그렇다, 아마도 수학, 뇌과학, 물리학에도 그들만의 진화와 학습 메커니즘이 있을 것이다. 또는 복잡성 생성과 그것을 위한 조건의 존재에 대한 깊은 학습적 이유가 있을 것이다. 예를 들어, 우리는 물리적 복잡성을 수학적 복잡성에 기초하거나, 그 반대로 할 수 있고, 적어도 문제에 대한 환원(다른 물리적 우주에서는 다른 수학이 있었을까?)을 만들 수 있을 것이다. 또는 우리는 진화적 학습을 일반화할 수 있을 것이다, 그것은 어떻게든 자신의 발전을 계속 가능하게 하는 조건을 만드는 데 성공했다(한때 지구에는 산소 대기가 없었다 - 생명이 그것을 만들었다!). 우리가 이해하지 못하는 복잡성 퍼즐의 중요한 구성요소가 있으며, 그것은 "자연스럽지" 않다. 복권 당첨으로 시작하는 어떤 답변도 과학적 답변이 아니라 - 신학적 답변이다. 그리고 그것을 설계자나 시뮬레이션 운영자로 대체하는 것이 훨씬 더 합리적이다.
하지만 만약 우리가 그러한 설계적 답변에 도달한다면 (그리고 그것은 가능하다! 모든 설계는 흔적을 남긴다) - 그것은 진정한 철학적 혁명이 될 것이며, 우리가 여기 우연히 있는 것이 아니라는 것을 이해하게 될 것이다. 현재의 지식 상태에서, 다른 지적 환경에서는, 이러한 변칙성들이 그러한 설계자 신의 존재에 대한 강력한 증거로 여겨졌을 것이다. 과학사에서 지금까지의 발전에 따라 앞으로도 진화론적이고 "자연적인" 설명이 나타날 것이라는 우리의 믿음만이 오늘날에도 그러한 당연한 해석을 막고 있다. 하지만 만약 우리가 이러한 변칙성들이 매우 깊고, 아마도 우리가 생각했던 것보다 더 광범위하다는 것을 발견하고, 오랜 시간 동안 자연적인 설명을 찾지 못한다면 - 과학은 전혀 예상하지 못한 방식으로 신앙에 영향을 미칠 수 있으며, 우리는 중세적 세계관으로 돌아갈 수 있다. 우주는 아마도 우리에게 측정할 수 없이 거대해 보이고, 누군가의 실험실 테이블 위의 실험처럼 보이지 않을 수 있지만, 우리는 무엇을 기준으로 그것이 큰 우주라고 결정하는가? 우리에게 객관적인 척도가 있는가? 우주에서 객관적으로 큰 유일한 것은 규모의 순서의 수이지만, 실제로는 단지 수십 개 정도일 뿐이다. 아마도 더 큰 우주에는 수천 개의 규모의 순서가 있을까? 아마도 무한한 규모의 순서가 있을까? 아마도 우리의 우주 전체가 크기에서 무시할 만한 시스템일까?
우리의 우주는 우리가 생각하는 것처럼 엄청난 양의 물질을 포함하고 있지 않다. 우주는 거의 비어있기 때문이다. 우주에서 거의 모든 것이 비어있다. 별들은 성간 공간에 비해 수많은 영의 비율로 작으며, 마찬가지로 입자들은 그들 사이의 거리에 비해 아주 작고, 이런 식으로 계속된다. 우주를 작동시키는 것은 물질 자체가 아니라, 이러한 공간을 채우는 힘, 전하, 장이며, 이것들이 진정한 우주다. 물질은 결국 환상이다. 우리는 완전히 비어있으며, 내 손가락이 키보드의 신 키를 통과하지 않는 유일한 이유는 그곳이 물질로 가득 차 있어서가 아니라, 실제로는 완전히 비어있기 때문이다 - 내 손가락과 신 키의 전자들의 크기에 비해 엄청난 거리에서 작용하는 반발력이 있어서 그들은 믿을 수 없는 힘으로 서로를 밀어낸다. 만약 그러한 힘들이 없다면, 나는 즉시 의자에서 지구 중심으로 떨어질 것이다. 그리고 블랙홀로서, 즉 농축된 물질로서, 지구는 실제로 아주 작다... 즉 - 우주를 만든 사람은 크기에 비해 플라스틱 찰흙의 양에 매우 인색했지만, 작은 플라스틱 찰흙 조각들이 서로 멀리서 영향을 미치는 것에 대해서는 매우 관대했다. 그렇다면, 우리가 우주 자체에서 공간과 물질 사이의 그러한 극단적인 불일치를 보고 난 후에는, 우주 전체와 관련하여 크고 작음에 대해 이야기하는 것이 어렵다: 우리의 우주 전체가 다른 우주들에 비해 작을 수도 있고 - 또는 거대할 수도 있다. 작은 실험 - 또는 상상할 수 없는 괴물.
공간에 관한 동일한 질문이 시간에도 적용된다. 만약 공간과 시간에 대한 객관적인 척도가 우주 자체라면, 우리는 종으로서도 개인으로서도 공간보다 훨씬 더 많은 규모의 순서로 시간을 차지한다. 예를 들어, 진화로서 우리는 우주 수명의 3분의 1 이상을 여기 있었고, 물질 조각으로서 지구는 우주의 나노-나노-무언가보다 작으며, 인간으로서 우리의 우주 크기에 대한 비율도 비슷하다. 우리는 단순히 프루스트의 '잃어버린 시간을 찾아서'의 감동적인 마지막 단락에 나오는 시간의 거인들과 비슷한 것이 아니라, 우리는 정말로 시간의 국수다. 공간에서는 아주 작은 생물이지만 크기에 비해 엄청난 시간을 차지하는 생물이다. 하지만 누가 우주 자체조차도 객관적인 척도가 될 수 있다고 했는가? 우주에 대한 객관적인 척도가 있을 수 있을까?
우주에서 크기 면에서 객관적인 유일한 거리와 양은 규모의 순서 자체다. 이것들이 우주가 실제로 비어있다고 결정하는 것이다, 왜냐하면 그 부분들의 크기와 그들의 영향 거리와 그 안의 공간 사이에 많은 규모의 순서가 있기 때문이다. 우리의 진정한 우주의 경계가, 시간과 공간의 어떤 경계를 훨씬 넘어서, 실제로 우리가 접근할 수 있는 규모의 순서의 경계인가? 풍부한 복잡성에 대한 답이 안타깝게도 우리에게 접근할 수 없는 규모의 순서에 있을 수 있다, 우리보다 크든(큰 설계자? 초우주? 다른 구조?) 또는 훨씬 작든(그 위의 모든 규모의 순서에서 복잡성을 생성하는 어떤 기초, 그리고 아마도 수학 자체와 자연법칙을 생성하는). 하지만 아마도 복잡성은 환상일까? 우주에는 복잡성이 없는 많은 규모의 순서가 있고, 수학에도 단순하고 지루하며 흥미 없는 많은 부분이 있다. 아마도 복잡성은 오히려 많은 규모의 순서의 존재에서 생성되는 것일까, 그것이 점진적으로 복잡성을 만들 수 있게 하는?
만약 우리가 진화 알고리즘과 신경망 알고리즘, 우리가 알고 있는 두 가지 자연적 학습 알고리즘을 통합한다면, 우리는 복잡성을 만드는 것이 연속된 많은 세대나 연속된 많은 층(딥러닝)이라는 것을 발견할 것이다, 각 세대와 층에는 에이전트(유기체나 뉴런)의 엄청난 중복과 과잉이 있다. 즉, 시스템에 시간이 지나면서 생기는 층화에서 오는 복잡성이 있고, 시스템의 공간적 층화에서 오는 복잡성도 있다. 층화는 복잡성의 아버지이며 따라서 발전과 학습의 아버지다. 시스템의 규모의 순서의 층화에서 오는 복잡성도 있지 않을까? 즉, 각 규모의 순서가 그 아래의 것에서 발생하는 더 큰 복잡성을 반영하는? 우주적 학습 메커니즘이 시간과 공간의 학습 메커니즘을 일반화하는, 규모의 순서에 기반한 학습 메커니즘일 수 없을까?
수학적 복잡성도 발전하는 정의와 수학적 논리 언어에 따라 서로 위에 쌓이는 무수한 단계들에서 생성된다. 세계의 복잡성이 단순히 반복적인 계산에서 오는 것일까, 아니면 오히려 계산보다 더 기본적인 메커니즘에서? 왜 수학의 매우 멀리 떨어진 분야들이 놀랍고 깊은 연결로 연결되어 있는가(현대 수학의 모든 부분에서 계속해서 반복되는 중심 이야기)? 수학이 단순히 깊은 연결이 있는 네트워크처럼 구축된 것이 아니라, 그 기초에 하나의 기본적인 현상이 있어서 바다가 있는 것일까? 또는 수학 전반에 걸쳐 복잡성을 생성하는 어떤 깊은 생성적 과정이 있어서, 예를 들어 소수의 경우처럼, 우리가 그 깊이를 탐구할 수 있을까? 수학에 진화가 있는가? 수학적 논리는 확실히 생성적 과정이지만, 그것은 "깊지" 않고, 생성된 질서에 대한 이해가 없으며, 단지 외부적인 언어적 설명만 있을 뿐이다(실제로 그것은 모델 이론과 유형 이론과 범주론 사이의 최근의 발전에도 불구하고 수학의 다른 부분들과 상대적으로 분리되어 있다). 우리는 수학의 기초에서 학습을 발견할까?
이러한 질문들은 우리의 인식의 경계 끝에 있다. 하지만 아마도 우리가 진화적, 신경적, 수학적, 물리적 세계에서 알고 있는 다양한 학습 알고리즘을 통합한다면, 우리는 학습과 그 본질에 대한 어떤 통합되고 기본적인 이론에 도달할 수 있을 것이며, 우리 세계의 다양한 학습 알고리즘의 공통된 깊은 기초에 대해, 그리고 따라서 학습의 특성과 한계에 대해서도. 21세기에 우리가 20세기의 두 가지 위대한 물리학 이론 - 양자역학과 상대성이론 - 을 하나의 틀로 통합하는 물리학의 모든 것의 이론(TOE)이 진화적 학습 아이디어에 기반할 수 있다는 것을 발견할 수 있을까, 마치 생물학이 진화에 기반하는 것처럼? 그러한 이론은 물리학의 "모든 것의 이론"보다도 더 일반적일 수 있다 - 왜냐하면 우리는 그것이 수학과 생물학, 컴퓨터 과학, 뇌과학을 포함한 모든 정확한 과학을 하나의 학습적 틀 아래 포함한다는 것을 발견할 수 있기 때문이다. 예를 들어, 다양한 학습 알고리즘이 하나의 기본적인 알고리즘의 특별한 경우일 때.
그리고 만약 우리가 더 겸손한 목표를 선택한다면, 오늘날 네트워크 이론이 과학과 기술의 모든 분야에서 네트워크에 대한 통찰을 제공하기 시작하는 것처럼, 미래에는 네트워크 아이디어보다 더 기본적인 것으로 밝혀질 수 있는 학제간의 기본적인 학습 이론이 있을 수 있다. 정확히 학습이 뇌에서 신경망보다 더 기본적이거나, 진화에서 유전자 네트워크보다 더 기본적인 것처럼. 우리는 확실히 21세기의 학습의 아인슈타인을 상상할 수 있으며, 그는 그것을 초이론으로 확립하고, 또한 많은 양적 예측을 발견할 것이다(얼마나 빨리 배울 수 있는가? 어떤 임계 조건에서? 얼마나 많은 정보가 필요하고 얼마나 많이 생성되는가? 학습을 통해 "풍부한 복잡성"을 어떻게 측정하는가? 등).
그렇다면, 그러한 이론이 우주의 복잡성에 대한 일반적이고 포괄적인 설명을 찾고, 그것을 움직이는 기본적인 학습 메커니즘을 찾을 수 있을 것이다. 그러면 우리는 우주를 계산으로(깊이와 통찰력이 없는), 또는 네트워크로(무작위적인), 또는 확률로(비현실적인) 이해하는 것을 멈추고, 그것을 학습으로 생각하기 시작할 것이다. 우리는 문화에서든, 인간에서든, 진화에서든, 학습이 아닌 풍부한 복잡성을 만드는 다른 자연적 과정을 알지 못한다. 아마도 우리는 이것이 물리학과 수학에도 적용된다는 것을 발견할 수 있을까? 그리고 아마도 이 알고리즘의 본질이 우리에게 왜 우리가 지능 상태로 수렴한 유일한 진화인지, 그리고 아마도 다른 진화에서 일어났을 수 있는, 현재 우리가 이해하지 못하는 다른 방향으로 이끈, 너무 많은 종류의 복잡한 발전이 가능할 수 있다는 것을 보여줄 것이다. 결국 진화는 우리의 것과는 다른 학습 알고리즘으로 수렴하는 경향이 있을 수 있다(예를 들어, 유전체에서 디지털 계산이 자연스럽게 나오는가, 뇌가 아니라? 왜 이것이 더 합리적이지 않은가? 왜 이미 존재하고 준비된 디지털 유전적 학습 메커니즘과 분리된 추가적이고 아날로그적인 학습 메커니즘이 생겨날까?). 그리고 만약 학습의 일반적이고 포괄적인 과학적 이론이 만들어진다면, 우리는 진화가 만들 것 같은 복잡성을 측정할 수 있고, 우리가 정말로 극단적인 경우인지, 또는 그 이후의 복잡성으로 상대적으로 쉽게 이끈 우리에게 이르는 길에서 어떤 드문 전환점을 식별할 수 있을 것이다. 그리고 아마도, 만약 우리가 자연의 기본적인 학습 알고리즘을 해독한다면, 우리는 또한 인공지능이 어떻게 자연스럽게(!) 발전해야 하는지, 그리고 우주에서 지능을 위한 가장 자-연-스-러-운 학습 알고리즘이 무엇인지 이해할 것이다. 그리고 자연스러운 것은 - 아마도 더 안전하고 옳으며 세상에 더 잘 맞을 것이다. 그리고 자연에. 그리고 세상의 자연에.