우리가 누구인지 정의하는 것은 타인들의 삶으로 이루어진 그물 속에서 차지하는 자리이다.
—켄 리우 (장성주 역), <모모노아와레 (종이 동물원 中)>

AI는 그저 보통의 기술일 뿐인가?

by 🤔어쪈

본격적으로 21대 대선 국면에 접어들기 전 ‘정상기술로서의 AI (AI as Normal Technology)’라는 글을 소개해드린 바 있습니다. 사회에 만연한 AI 하이프를 깨고자 <AI Snake Oil>이라는 제목의 뉴스레터를 운영하고 동명의 책을 쓴 아르빈드 나라야난(Arvind Narayanan)과 사야쉬 카푸어(Sayash Kapoor)가 다음 프로젝트의 청사진으로 발표한 내용이죠. AGI 내지는 초지능이 등장할 불가피한 미래를 전제로 하는 논의에 제동을 걸기 위해 두 저자는 AI의 남다른 파급력을 인정하면서도, AI를 예외적인 것이 아닌 보통의 기술로 이해하는 것이 더 정확하다고 주장합니다.

당시 저는 결코 짧지 않은 분량의 원문을 압축하여 전하면서 “AI가 다른 기술과 다르지 않다는 관점”의 필요성을 강조했습니다. 사실 저로서도 썩 만족스러운 요약은 아니었습니다. 이후 레터를 읽은 필진 한 분께서 아래와 같이 이의를 제기하셨습니다.

AI를 두고 초지능 운운하는 담론에 대항하기 위해 AI 역시 기술일 뿐이라고 강조하는 ‘정상기술’ 개념이 필요하긴 하지만, AI가 다른 기술과 다르지 않다고 결론을 내리는 것은 오해의 소지가 있는 것 같습니다.

저 역시 “AI도 그저 보통의 기술일 뿐”이라는 표현만으로 결론을 내린 채 넘어가면 안되겠다는 생각이 들었습니다. 뒤이은 논의를 통해 무엇보다 AI 윤리를 논할 때 만큼은 AI를 단지 기술로만 볼 순 없다는 점도 명확해졌습니다. 따라서 오늘은 이전에 보내드린 레터 제목을 다시 질문으로 뒤바꿔 이야기해보려고 합니다.

AI는 단지 보통의 기술일 뿐일까요?

AI 예외주의 (AI Exceptionalism)

AI는 분명 다른 기술과 다릅니다. 하지만 AI 뿐만 아니라 모든 종류의 기술들이 그렇습니다. 때문에 AI가 다른 기술과 다르지 않다는 주장을 두고 검토해야 할 유의미한 질문은 ‘얼마나’, 또 ‘어떻게’ 다른가입니다. 저자들이 말하는 다름은 완전히 상이한 범주의 것을 뜻합니다. 둘은 AI를 정상기술이라고 주장하기 위해 AI를 기술이 아닌 (인간을 뛰어넘기 일보 직전인) 지능적 개체로 해석하는 것에 문제를 제기합니다. 이전 레터에서 충분히 다룬 내용이죠. 둘째로 AI 역시 통상적인 기술처럼 결코 급격하지 않은 발명-혁신-확산 단계를 거쳐 발전할 것으로 예측합니다. 분량 조절을 하다보니 앞서 충분히 다루지 못했지만, 원문에서는 여러 예시를 근거로 제시하고 있습니다.

AI를 정상기술로 이해한다는 말은 단순히 ‘다른 기술과 다르지 않다’고 하기보다 ‘AI만 이례적으로 특별하다고 보기 어렵다’는 주장에 가깝습니다. AI는 다른 기술과 질적으로 (초지능이 탄생할 수 있으므로), 양적으로도 (굉장히 빠르게 발전하고 있으므로) 완전히 다르다고 역설하는 AI 예외주의에 반대한다는 의미죠. 나라야난과 카푸어는 지능의 일원적이고 단선적인 이해를 거부함으로서 초지능에 의한 존재론적 위험을 일축합니다. AI의 급속한 발전 역시 지금 우리가 ‘발명’의 시대를 직접 경험하고 있어서 그렇게 느낄 뿐, 인류가 수차례 경험한 산업혁명과 마찬가지로 혁신과 확산까지는 시간이 꽤나 걸릴 것이라고 강조합니다.

결국 AI가 일반적이고 통상적인 기술의 범주를 벗어나느냐가 관건입니다. 역사적으로 우리는 신기술(emerging technology)이 독점한 미래를 상상하며 호들갑을 떨어왔습니다. 우리나라만 해도 AI 이전에 핵융합, 나노기술, 뇌과학, 유전공학 등에 예외주의를 적용하며 별도의 법률을 만들어 연구개발을 촉진해왔습니다. 분명 이번만큼은 다를 거라는 기대와 함께요. 물론 모두 중요하고 사회에 커다란 변화와 파급력을 가져올 분야입니다. 하지만 그렇다면 반대로 AI는 이들과 무엇이 다른지에 대해서도 의문을 가져볼 수 있겠죠.

AI 윤리에서 말하는 AI란

이쯤에서 꽤나 오랫동안 저를 괴롭혔던 고민 한가지를 소개하고자 합니다. AI가 결코 특별하지 않다면, 대체 AI 윤리는 왜 필요할까요? AI 예외주의를 받아들이지 않고서도 AI 윤리의 중요성을 강조할 수 있을까요? AI 윤리는 나노윤리나 양자윤리처럼 분야별로 이뤄지고 있는 기술 윤리 논의의 일환일 뿐인가요? 좀처럼 답하기 어려웠지만, 서두의 질문에서 ‘보통’ 말고 ‘기술’이라는 단어에 초점을 맞춤으로서 제 나름의 답안을 작성할 수 있었습니다.

AI는 단지 보통의 기술일 뿐일까요?

결론부터 말하자면, AI 윤리라는 맥락에서 AI라는 개념은 기술에만 국한되지 않습니다. 때문에 역설적이게도 AI가 ‘보통의 기술일 뿐이라도’ AI 윤리를 논해야만 합니다. AI를 개발한다, AI를 활용한다고 할 때 그 목적은 결국 ‘자동화’에 있습니다. AI는 거의 모든 사례에서 자동화를 실현하는 기술입니다. 그렇다면 우리는 AI를 단지 기술로 이해할 것이 아니라 그 기술로 달성하고자 하는 목적인 자동화에 초점을 맞출 필요가 있습니다. 바꿔말하자면 자동화를 위한 모든 기술을 AI라고 부를 수도 있겠죠.

실제로 자동화를 위해 다른 이름으로 불렀던 기술을 AI 내지는 최신 용어로 바꾸는 것만으로 큰 관심을 받고, 투자 유치를 성공하는 등의 우스꽝스러운 일이 빈번하게 일어납니다. AI 업계에 만연한 하이프를 풍자하는 밈들이 자주 꼬집는 지점입니다. 예컨대 10년 전 유행하던 키워드인 RPA(Robotic Process Automation)를 표방하던 회사들은 이제 전부 AI 에이전트를 내세우고 있죠.

실제로 우리가 AI 윤리라는 범주 아래에서 논해온 문제 상당수를 자동화의 문제로 바꿔부를 수 있습니다. 첫째로 사람이 직접 하던 일을 자동화함으로서 일어나는 노동 대체와 (학습 과정은 숨긴 채) 인간의 작업 결과물을 자동으로 생성하여 야기하는 저작권 침해와 같은 사례를 들 수 있습니다. 둘째로 딥페이크나 AI 살상 무기처럼 윤리적 논란이 불가피한 행위를 자동화함으로서 피해 범위를 키우는 한편 책임 소지를 불분명하게 만드는 사례도 적지 않죠. 자동화로 인한 영향을 고민하는 일, 그럼에도 불구하고 자동화를 하는 게 맞는지 묻는 것. 모두 AI 윤리의 역할입니다.

AI 윤리 레터가 AI만 다루지 않는 이유

AI를 예외가 아닌 보통의 기술로 이해한다면 우리는 일반적인 기술 윤리 문제에 AI를 대입하여 고민해볼 수도 있고, 반대로 AI의 자리에 다른 기술 내지는 산업을 놓고 논의해볼 수도 있습니다. AI 윤리 레터가 종종 AI 정책을 넘어 과학기술정책이나 반도체 산업의 노동자 건강과 환경 문제를 꺼내기도 하는 이유입니다. 또한 AI 윤리를 자동화의 윤리로 해석한다면 AI를 다루지 않더라도, 심지어는 기술에 대한 내용이 아니어도 토론 주제로 삼을 수 있습니다. 예컨대 AI 기반의 자동화가 약속하는 생산성과 효율성이라는 가치가 대체 무엇인지, 또 그것이 다른 가치를 희생하면서까지 추구해야 할 정도로 중요한 것인지에 대한 사회적 대화로 이어가볼 수 있겠죠. AI 윤리는 AI에서 출발했지만, AI에서 끝나진 않을 겁니다.

AI 윤리 레터 독자 여러분과도 AI 윤리란 무엇인지를 두고 이야기를 나눠보고 싶습니다. 아래 피드백 창구를 통해 의견을 전해주시면 다음 번에 다뤄보도록 하겠습니다.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.