1인칭 관점의 규범성, 2인칭 관점의 관계성, 3인칭 관점의 보편성이 형식적 차원에서 통합된 이론 층위의 AI 윤리가 현실에서는 사회 문제 해결에 주안점을 둔 3인칭 관점의 제도 윤리 층위와 1인칭 관점의 규범성을 강조하는 개인 윤리 층위로 구분된다. AI 윤리는 이처럼 다양한 층위에서 논의가 이뤄지기에 혼란을 피하고 생산적인 논의를 전개하기 위해서는 논의되는 윤리가 어떤 층위의 논의인지를 구분하여 이해해야 한다.
—목광수, <인공지능 개발자 윤리>

한국 AI 기술은 누구의 의도로 이끌어질까?

by 🧙‍♂️텍스

처음 AI 윤리 레터를 쓰기 시작했을 때는 AI 하이프(hype)에 대한 사회의 과도한 반응을 언제나 경계했습니다. AI 기술의 한계를 과소평가하여 기술적 상황을 오판하면 AI 기술 발전이 초래하는 AI 윤리 문제에 대해서 적절한 사회적인 대응을 못 하기 때문입니다. 그렇다 보니 제가 써왔던 글은 AI 기술을 설명하는 것으로 시작해서 미국과 유럽의 사례를 주로 다룬 것 같습니다. 자본시장이 큰 곳에서 먼저 새로운 기술의 상업화가 이루어지는 현실도 이런 편중을 불가피하게 만들지 않았나 싶습니다. 특히 Stable Diffusion으로 시작해서 챗GPT에서 확대된 생성형 AI의 광풍은 기업가들의 목소리를 더욱 크게 만들었습니다. AI 윤리 레터는 이러한 새로운 기술이 등장한 사회에서 이에 대응하는 정부 및 시민단체의 입장과 활동가 및 학자들의 발언을 소개하고 비평했습니다.

올해 초 중국 스타트업 딥시크(DeepSeek)가 새로운 추론 모델을 공개했을 때, 미디어는 AI의 스푸트니크 쇼크라며 호들갑을 떨었습니다. 소위 선진국들만 주도할 수 있다고 여겨진 AI 기술을 빠르게 추격하여 새로운 기술적 대안을 내놓은 중국의 모습에 방어적인 태도 또한 띄었습니다. 한국 미디어는 딥시크의 량원펑을 추켜세우면서 한국은 왜 못하는지에 대한 분석을 늘어놓았습니다. 다만, 공산당 1당 체제인 중국에서조차 기술 담론을 주도한 주체가 기업가였다는 사실은 언급되지 않았습니다. 과거 알리바바의 마윈이 그랬고, 지금은 딥시크의 량원펑이 그 계보를 이었습니다.

좀 더 깊게 당시 한국을 들여다보면 흥미롭습니다. GPU가 부족해서 대학이 연구를 못 한다는 이야기는 많았지만, 그 누구도 한국의 기업가(혹은 자본가)를 직접적인 원인으로 짚지 않았다는 점입니다. 한국의 대표적인 자본가인 재벌 총수들 기업의 비전은 보다는 정부가 외치는 AI 3강, GPU 3만 개 구매와 같은 정책이 요란하게 등장했습니다. 자본주의의 나라인 미국이야 그렇다 쳐도 중국마저도 AI를 대표하는 기업가를 만들어냈는데, 한국은 무슨 문제가 있어서 기업가들이 추격조차 할 생각이 없는 걸지 현실을 곱씹어 볼 필요가 있습니다.

GPU 인프라 확보 정책을 살펴보면 실제로 누가 AI 논의를 주도하는지 보입니다. 윤석열 정부에서 최상목 대통령 권한대행이 공언했던 GPU 3만 장은 이재명 당선자의 대선 공약에서는 GPU 5만 장으로 불어났습니다. 이는 윤석열 정부 당시의 국가인공지능위원회가 만들었던 정책들이 정권과 여야를 막론하고 초당적으로 확산했기 때문입니다. 이재명 당선자와 김문수 후보의 공약에 등장했던 AI 3강도 여기서 등장했습니다. 관료 집단이 크게 관여한 정책인 것으로 판단됩니다. 하지만, 그때도 그렇고 대통령 공약으로 옮겨온 지금까지조차 그 맥락, 수요 분석, 재원 계획은 설명되지 않은 상황입니다.

이제 대통령 선거도 끝났고 다시 일상의 시기가 시작되었습니다. 밀실 안에서 내린 이해당사자들의 의사결정은 정책과 공약으로 나타났고 이제 이것들이 현실에 구현될 차례가 되었습니다. 관료가 AI를 주도하는 이 특별한 풍경이 우리 앞에 놓인 AI 생태계를 어디로 이끌지, 그리고 그 과정에서 놓치고 있는 위험은 무엇인지 꾸준히 살펴보고 말하는 것이 앞으로 남은 우리의 윤리적 과제가 아닐지 생각합니다.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.