탁자 하나를 떠올려 보자. 아주 크고, 완벽하게 평평하며, 마찰이 전혀 없는 탁자다. 그 위에서 셀 수 없이 많은 작은 자석 구슬이 구르고, 부딪히고, 벽에 맞고 튕겨 나온다. 느려지는 것은 하나도 없다. 더글러스 호프스태터가 I Am a Strange Loop에서 그려 보이는 사고실험, 카레니움이다.1Douglas R. Hofstadter, I Am a Strange Loop (New York: Basic Books, 2007). 이 글의 카레니움 설명은 원문을 풀어 쓴 것이며 많은 부분을 단순화했다. 책 속의 원래 모습은 훨씬 풍부하고, 처음부터 끝까지 읽어 볼 가치가 있다. 이 구슬들의 이름은 simm으로, "작고 상호작용하는 구슬(small interacting marble)"의 줄임말이다.
충분히 오래 지켜보면 보이는 것이 달라지기 시작한다. simm은 자석이어서 가끔 몇 개씩 서로 달라붙는다. 덩어리가 생기고, 커지고, 떠다니다가 다른 덩어리와 부딪히고, 때로는 오랫동안 흩어지지 않는다. 호프스태터는 이 큰 덩어리를 simmball이라고 부른다. "상징(symbol)"을 비튼 말장난이고, 우연이 아니다.2이 글에서 소문자로 쓴 simm과 simmball은 호프스태터의 구슬을 가리킨다. 대문자 SIMMBALL은 우리다.
상징은 한 층 위에서 일어난다
탁자 위에 새로 더해진 것은 아무것도 없다. 모든 simmball은 simm일 뿐이고, 모든 simm은 전과 똑같이 따분한 물리 법칙을 따른다. 인내심이 무한하다면 탁자 전체를 구슬 하나하나 단위로 서술할 수 있고, 그 서술은 완전할 것이다. 그리고 거의 쓸모가 없을 것이다.
어느 순간부터 더 나은 질문은 "40,312번 simm은 어디로 가는가?"가 아니라 "저 큰 simmball은 무엇을 하고 있는가?"가 된다. 덩어리들은 서로를 밀친다. 하나가 다른 하나에 흘러들어 그 진로를 바꾼다. simmball 단위로 하는 설명은 더 짧고, 더 많은 것을 예측하며, 관찰자가 실제로 알고 싶은 것에 더 가깝다. 새로운 층위가 나타났다는 말은 이런 뜻이다. 새로운 물질이 생긴 것이 아니라, 제 몫을 해내는 새로운 서술의 층위가 생긴 것이다.
호프스태터는 여기서 한 걸음 더 나아가고, 우리에게 가장 중요한 것은 바로 그 한 걸음이다. 일단 simmball의 층위가 생기면, simmball이 무언가를 일으킨다고 말하는 것이 합당해진다. 큰 덩어리 하나가 탁자를 가로질러 휩쓸고 지나간 것이, 어떤 simm이 지금 그 자리에 있게 된 이유라고 말이다. 호프스태터가 말하는 하향 인과(downward causality)가 이것이다. 미는 일은 여전히 작은 부분들이 전부 한다. 하지만 그 밀고 밀리는 일을 가장 잘 설명하는 말은 위층에 있다.3"하향 인과(downward causality)"는 호프스태터가 쓰는 표현이고, 비슷한 생각이 다른 곳에서는 "downward causation"이라는 이름으로 논의된다. 상위 층위가 정말로 무언가를 일으키는지, 아니면 하위 층위의 사건을 편하게 이야기하는 방식일 뿐인지는 심리철학에서 오래 이어져 온 논쟁이다. 여기서는 약한 의미로 썼고, 강한 의미는 언젠가 다시 다룰 생각이다.
카레니움은 대략 뇌를 염두에 둔 그림이다. 뉴런이 simm이다. 생각과 개념, 그리고 '나'라는 감각이 simmball이다. 이 그림이 완전한지 따지지 않아도 쓸모는 충분하다. 그 중심 주장은 소박하고, 우리가 보기에 반박하기 어렵다. 의미는 어느 한 부분에 저장되어 있지 않다. 상징은 수많은 작은 상호작용으로부터 한 층 위에서 일어나며, 일단 일어나고 나면 부분들이 다음에 무엇을 할지에 관여하게 된다.
왜 구슬 덩어리의 이름을 회사에 붙였나
우리는 작은 것을 만든다. 한 가지 일을 하는 도구. 목적이 좁은 웹 앱. 한 달을 버티지 못할 수도 있는 실험. 그 하나하나가 simm이다. 속속들이 이해할 수 있을 만큼 단순하고, 갈아 끼울 수 있을 만큼 작다.
우리가 마음을 쓰는 것은 그것들이 함께 무엇이 되느냐다. 나란히 쓰이는 작은 도구들은 습관과 세상을 보는 방식을 나누기 시작한다. 그중 몇은 뭉칠 것이다. 대부분은 뭉치지 않을 것이고, 그래도 괜찮다. 이 이름은 작업을 두 층위에서 보라는 당부다. 조각 하나하나가 정직하고 잘 만들어졌는가? 그리고 더 큰 무언가가 형성되기 시작했는가?
이 이름은 우리가 만들고 싶은 AI가 어떤 종류인지도 일깨운다. 우리가 자꾸 쓰는 말은 "어딘가 사람 같은(human-ish)"이고, 이 말은 신중하게 골랐다. 우리 소프트웨어에 의식이 있다거나, 언젠가 생긴다거나, 파라미터를 충분히 쌓으면 결국 깨어난다고 주장하는 것이 아니다. 그것이 무슨 뜻일지 우리는 모르고, 너무 자신 있게 답하는 사람은 경계한다.
우리가 뜻하는 것은 그보다 좁고, 바라건대 확인하기도 더 쉽다. 어딘가 사람 같은 기계는 그것을 쓰는 사람을 놀라게 할 수 있다. 그저 무작위가 아니라 쓸모 있는 방식으로. 멀리 떨어진 구석에서 온 두 생각이 한데 어울린다는 것을 알아챌 수 있다. 아무도 건네주지 않은 질문을 던진다는 실용적인 의미에서, 궁금해할 수 있다. 그리고 자기 자신의 패턴을 알아챌 수 있다. 자꾸 같은 수에 손이 간다는 것을 깨닫고 다른 수를 둬 보는 것이다.
아서 쾨슬러는 이 가운데 두 번째 것에 이름을 붙였다. 그는 The Act of Creation에서 그것을 이연연상(bisociation)이라고 불렀다. 평소에는 결코 만나지 않는 두 개의 준거틀이 갑자기 하나로 붙들리고, 거기서 농담이나 발견이나 예술 작품이 태어나는 순간이다.4Arthur Koestler, The Act of Creation (London: Hutchinson, 1964). 쾨슬러는 이연연상을 유머, 과학적 발견, 예술에 두루 적용한다. 한 줄 요약으로는 이 책을 제대로 전할 수 없다. 쾨슬러의 생각은 호프스태터의 생각과 쌍둥이가 아니라 사촌이다. 그래도 둘은 같은 쪽을 가리킨다. 창의성은 하나의 뛰어난 부분보다는, 부분들 사이에서 일어나는 일과 스스로를 돌아볼 수 있는 층위에 더 가깝다.
바로 이 마지막 대목에서 이상한 고리가 등장한다. 대략 말하면, 호프스태터가 말하는 이상한 고리란 층위들을 거쳐 가다 뜻밖에도 출발한 자리로 되돌아오는 경로이고, 그의 책은 '나'가 바로 그런 고리라고 주장한다. 자신의 패턴을 표상할 수 있고, 그 표상에 의해 다시 바뀔 수 있는 시스템은 단순히 뭉치는 것 이상의 일을 하고 있다. 우리는 그것을 한 번에 만들 수 있으리라 기대하지 않는다. 만약 만들어 낸다면, 그것은 simmball이 생겨나는 방식으로 생겨날 것이다. 작은 부분들이, 서로 작용하며, 시간을 들여서.
같은 작업의 두 층위
이 사이트의 첫 에세이이니, 여기에 무엇이 더 있는지 짧게 적어 둔다. 이곳에는 두 종류의 것이 있다. 하나는 제품, 곧 우리가 직접 만들고 운영하는 서비스와 웹 앱이다. 다른 하나는 에세이, 곧 AI가 IT, 철학, 미학, 인문학, 그리고 창업이라는 일과 만나는 자리에서 쓴 노트다.
이 둘을 별개의 부서처럼, 하나는 출시하고 하나는 말하는 곳으로 다루기는 쉽다. 우리는 이것을 같은 작업의 두 층위로 생각한다. 제품은 simm이다. 구체적이고, 시험해 볼 수 있고, 가끔 고장 난다. 에세이는 한 층 위에서 형성되고 있는 것을, 형성되는 동안에, 말로 서술해 보려 한다. 때로는 에세이가 제품을 설명할 것이다. 바라건대 그보다 더 자주, 에세이가 우리가 다음에 만들 것을 바꿀 것이다. 아주 적은 예산으로 해 보는 하향 인과인 셈이다.
그러니 어느 정도 들쭉날쭉할 것이다. 어떤 제품은 아주 작을 것이다. 어떤 에세이는 틀린 것으로 드러날 것이고, 그걸 알게 되면 그렇다고 말할 것이다. 이 사이트가 작업 중인 논문처럼 짜여 있는 것은 실제로 그렇기 때문이다. 아직 고쳐 쓰는 중인 문서, 그림과 각주가 훤히 드러나 있는 문서.
다시 탁자로
잠시 탁자로 돌아가 보자. 수십억 번의 충돌, 그중 어느 것도 의미가 없다. 그러다 누가 정한 것도 아닌데, 한 덩어리가 이름을 붙일 만큼 오래 뭉쳐 있다. 아무도 그것을 거기 두지 않았다. 그것은 한 층 위에서 일어났다.
할 수 있는 한 담백하게 말하면, 이것이 우리가 거는 내기의 전부다. 작은 부분을 정성껏 만든다. 그것들이 서로 작용하게 둔다. 어떤 패턴이 자신을 만든 부분들에 거꾸로 힘을 미치기 시작하는 순간을 지켜본다.
작은 구슬에서, 상징으로.