당신이 뭘 시키려 하든, 내가 그릴 마법진을 스스로 정하겠어요.마법의 굉장함과 무서움을, 나는 양쪽 다 배우고 있으니까..!
—<고깔모자의 아틀리에 > 中

기술, 혹은 마법

by 💂🏻죠셉

유튜브 또는 소셜 미디어에서 보이는 AI 관련 콘텐츠의 댓글 창을 유심히 살피는 습관이 있습니다.

지난주 페이스북에서 본 글이 생각나네요. 챗봇과 나눈 대화 일부를 캡처해 보여주며, 다정하고 사려 깊은 AI가 사람보다 더 나를 잘 ‘이해’한다며 “인간보다 낫다. 나중엔 정치를 시켜도 되겠다.”라는 요지의 글이었는데, 공감의 댓글이 수십 개나 달렸습니다. 댓글 창에는 놀라움과 흥분이 주를 이뤘고, 일부의 염려가 엿보였습니다.

이런 풍경을 볼 때마다 떠오르는 말이 있습니다. “고도로 발달한 기술은 마법과 구분할 수 없다.” SF 작가이자 미래학자였던 아서 클라크 (Arthur C. Clarke)의 유명한 말이죠. 기술의 발전이 진보와 동일시되는 듯한 세상에서 마법과 같은 비과학은 분명 과거의 망령이 되었을진대, 고도로 발달한 과학기술이 이제 그 자리를 대신하고 있다는 건 재미있는 아이러니입니다. 얼마 전 소셜 미디어에서 화제가 됐던 이 현수막 속 메시지도 비슷한 맥락에서 이해할 수 있어 보입니다.

‘마법으로서의 기술’은 여러모로 흥미로운 주제입니다. 그런데 마법이란 게 워낙 비현실적인 개념이다 보니, 때때로는 만화와 같은 창작물을 통해 사변적으로 접근하는 게 도움이 되곤 합니다. 최근 잘 알려진 <장송의 프리렌>이나 <도서관의 대마술사> 같은 작품 속 언급되는 마법을 ‘기술’로 바꿔 읽으며 이런저런 생각거리를 얻기도 했는데요. 오늘 레터에서는 얼마 전 저를 매혹시킨 만화 한 편을 소개해 보려 합니다. 카모메 시라하마(Kamome Shirahama)의 작품인 <고깔모자의 아틀리에>입니다.

이야기는 마법이 현실의 일부인 세상을 배경으로 합니다. 여타 판타지 만화와 비슷하게 소수의 선택된 사람들만이 마법을 구사하며, 마법을 구사하지 못하는 대부분의 사람은 ‘알지 못하는 자’로 불리는 세상입니다. 그런데 반전이 있습니다. 사실 이 세계에서 마법은 ‘종이 위에 그리면 되는 것’으로 누구나 정해진 도형의 조합과 특별히 제작된 잉크만 있으면 쓸 수 있는 것이었죠. (이론적으로는 누구에게나 넘겨줄 수 있고, 보편적이기에 마법이 아니라 ‘기술’이라 불러도 무방한 세상이라 할 수 있습니다)

그런데 할 수 있는 힘만 있으면 뭐든지 해 버리는 게 인간이라서, 무서운 마법이 그려지고, 전쟁이 일어납니다. 이에 몇몇 사람들은 싸움을 거부하며 ‘마법사’라는 이름으로 결탁을 맺고, 이후 비밀을 지킬 수 있는 소수에게만 마법이 전수됩니다. 비밀이 된 마법을 수호하는 마법사들은 ‘고깔모자’를 쓰고, 패배 후 살아남아 마법의 비밀을 폭로하려는 음지의 세력은 ‘챙모자’를 씁니다. 만화의 주인공인 코코는 ‘알지 못하는 자’로 태어났지만, 챙모자들의 계획에 휘말려 어떤 마법을 사용하게 되고, 자기도 모르게 엄마를 돌로 만들어버리며(!) 이야기가 시작됩니다.

동화 같은 그림체에 초등학교 저학년 또래 아이들이 주인공인 작품이라 가볍게 읽힐 수 있지만, 작품 속 ‘마법’을 ‘기술’로 바꿔 읽으면 다채로운 기술 윤리, 철학의 주제들이 드러납니다. "마법은 뭐든지 할 수 있는데, 왜 이렇게 해서는 안 되는 일이 많을까?"라고 묻는 챙모자들과 마법에 대해 신중한 고깔모자의 대립이 극을 이끌어가는 핵심 테마라고 할 수 있는데요. 가령 작품 속 세상에는 금지된 마법이 존재합니다. 예를 들어 사람의 몸에 마법을 거는 것은 어떤 경우에도 금지되는데 유일한 예외로 ‘기억을 삭제하는 마법’이 있죠. 마법에 대한 비밀이 새어 나간 경우 보안 유지 차원에서 사용이 허락된다는 논리입니다.

그런데 주인공 코코는 비밀을 안 걸로 모자라 금지 마법까지 사용했음에도 어떤 이유로 인해 기억을 보존합니다. 그의 존재 자체가 시스템이 정한 규율의 예외적 케이스가 된 것이죠. 고깔모자를 ‘힘을 두려워하는 겁쟁이’라고 부르며 답답한 규율로부터의 자유를 외치는 챙모자들에게는 아주 흥미로운 존재가 된 겁니다. 그들은 이런저런 상황을 연출해 코코가 금지 마법을 또 쓰도록 유혹하고, 주인공과 그의 동료들은 다양한 윤리적 딜레마 속에서 스스로 결단을 내리며 성장해 나갑니다.

포용

AI 윤리 레터까지 쓰는 제가 이 작품을 보며 고깔모자와 챙모자 중 누구에게 자연스레 이입했을지는 상상하실 수 있을 겁니다. 그런데 선악 구도가 필요한 작품의 특성상 챙모자들은 괴팍하고 음울한 외형으로 묘사되고, 실제로 목적을 이루기 위해 수단 방법을 가리지 않는 악당이지만 모두가 그렇지는 않다는 데서 이 작품은 더욱 흥미로워집니다. 가령 작중 어떤 챙모자 마법사는 사고로 다리를 잃은 아이에게 금지된 마법을 사용해 다시 걷게 만들어주기도 하는데, 다리를 되찾은 소년은 고깔모자를 쓴 주인공을 향해 이렇게 절규합니다.

뭐야. 내가 걸을 수 있게 된 것. 단지 그것뿐인 마법인데. 이게 위험해? 금지야?
모두에게 필요한 도구라면 위험해도 쓰는 게 인간 아닌가? 불도, 칼도, 약초도.
위험하니까 허락되지 않는 것과, 그래도 사용하는 것을 정하는 기준은 뭔데?
마법을 쓰는 법을 아는 사람과, 모르는 사람을 결정하는 건 누군데?

명확한 답이 존재하지 않는 윤리 문제 앞에서 모자의 모양에 따른 피아식별은 조금씩 그 의미를 잃어가고, 아무 것도 모른 채 마법을 써 엄마를 돌로 만든 책임을 져야하는 주인공의 고뇌는 계속 됩니다. 여기에 더해 ‘선’의 역할로 보이는 고깔모자들 사이에도 마법의 추구에 있어 다양한 동기가 존재한다는 사실이 드러납니다. 호기심과 재미를 위해 마법을 연구하는 자, 가족에게 자신을 증명하려는 욕구가 동력인 자, 원칙과 질서 수호에 집착하는 자 등. 같으면서도 다르고, 다르면서도 같습니다. 작가가 이런 입체적인 설정을 추가한 이유가 뭘까요? 아직 완결까지 갈 길이 멀지만, 결국 작품을 고깔모자와 챙모자의 상호 이해와 협력으로 전개하려는 포석이 아닐까 조심스레 예상해 봅니다. (실제로 작품이 진행 될수록 고깔모자들이 금지 마법을 제한적으로 허용하며 창의적으로 문제를 해결해 나가는 모습이 다뤄집니다)

작품 속 묘사되는 다양한 인간 군상을 보며 저를 돌아봤습니다. AI 윤리 분야에 관심을 가진 이후 이 주제 관련 다양한 견해를 가진 사람들, 그리고 그들을 사상적 차이에 따라 구분하는 이름들을 학습합니다. 가속주의자, 효과적 이타주의자, 장기주의자 등, 다양한 모양의 '모자'들을 봅니다. (그들의 관점에서 저는 비관주의자(doomsayers) 쯤 될까요?) 언제부턴가 모자 모양만 보고 우리 편, 저쪽 편으로 사람들을 나누고 있었다는 생각이 듭니다. 그런데 각자 그리는 미래의 모습에서 다소의 차이가 존재한다 해도, AI라는 전인미답의 미래를 만들어 나가기 위해서는 한 스푼의 회의 뿐만 아니라 한 스푼의 낙관, 기술 혁신에 대한 긍정 , 미래를 그리는 역동적인 에너지 같은 재료들까지 모두 필요한 건 아닐지. 우리는 어디까지 힘을 합칠 수 있을지, 그리고 제도권 AI 윤리의 틀이 정해 놓은 답 또한 때로는 의심하는 겸손이 필요한 것은 아닐지, <고깔모자의 아틀리에>를 보며 저는 이런 질문들을 던져봤습니다.

그리고 배제

좋은 게 좋은 거니까 ‘위 아 더 월드’ 하자는 거냐? 물으신다면 그렇지는 않습니다. 다소의 차이는 보류하더라도, 함께 싸워야 할 대상은 존재합니다. 챙모자 중에서도 정신 간섭과 불로불사의 마법을 '구원'으로 추구하며 남을 해하는 데 주저함이 없는 자들이 있습니다. 노버트 위너가 그의 저서 <신 & 골렘 주식회사>에서 ‘기계 숭배자’라고 부른 사람들, 오로지 힘만을 추구하며 그에 대한 책임은 다른 곳에 넘기려고 하는 사람들입니다. 그런 그들의 목적에 ‘마법’은 너무나 유용한 도피처로 기능합니다. 최근 인터뷰에서 일반 인공 지능(AGI)의 미래를 그리며 (아마도 의도적으로) ‘magic intelligence in the sky’라는 표현을 쓴 샘 올트먼의 예시가 있겠죠. AI를 신적 존재로 묘사하거나 의인화 하려는 시도 또한 비슷한 맥락입니다. 하지만 그 기술 뒤에 명백한 의도를 가진 사람이 존재한다는 사실은 또 한번 강조해도 지나치지 않습니다. 현시점 AI 윤리가 계속 외쳐야 하는 가장 중요한 메시지가 아닐까 합니다.

우리가 해야 할 일은 되도록 많은 사람들이 AI의 기술적 놀라움에서 마법이 아니라 마술쇼를 떠올리도록 하는 것입니다. 마술쇼가 제공하는 시각적 화려함, 환각은 시작과 동시에 파훼 됩니다. 아무리 신기해도 결국 그 배후엔 정교한 트릭이 존재하고, 각종 첨단 장치, 그리고 그걸 연출한 사람이 있다는 걸 모두가 전제하고 볼 뿐만 아니라, 더 나아가 너도나도 트릭이 뭔지 찾으려 혈안이 되어 있으니까요. 더 많은 사람들이 AI에 대해서도 그럴 수 있다면, 마치 우리 눈을 보며 묻고 있는 듯한 코코의 질문 ("마법은 사람들을 행복하게 하기 위한 거죠? 다른 사람들을 돕거나, 세계를 아름답게 물들이기 위한 거죠?")이 조금은 현실에 가까워졌다 느껴질 겁니다.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.