중국은 AI 패권을 잡을 수 있을까
일대일로가 AI 윤리로 뻗어나갑니다
첨단기술의 형벌 식민지가 만들어졌다.
—대런 바일러(홍명교 역), <신장위구르 디스토피아>
중국이 글로벌 AI 규범을 선도할 수 있을까요?
by 🎶소소
중국이 글로벌 AI 규범을 주도하기 위한 움직임을 시작했습니다. ‘제3차 국제협력을 위한 ‘일대일로(육상 해상 실크로드) 정상포럼’에서 중국이 '글로벌 AI거버넌스 이니셔티브(GAIGI)'를 제안했습니다. 전반적인 내용은 다른 AI 규범과 비슷합니다. 인간 중심의 AI를 안전하게 만들자는 거죠.
그러나 다른 규범과 다른 점은 AI 개발에는 국가와 정치체제에 상관없이 동등한 기회와 권리가 보장되어야 한다는 내용이었습니다. 개발도상국의 ‘지도자’로 위치를 확고히 하고, 대(對) 중국 반도체 수출을 통제한 미국을 견제하기 위한 메시지로 보입니다. 미국을 직접 언급하지는 않았지만, 중국은 기술 독점과 강압적인 공급망 파괴에도 반대한다고 덧붙였습니다.
중국이 주도하는 GAIGI가 글로벌 AI 규범의 세계를 두 진영으로 나누게 될까요? AI 규제에 관한 중국의 접근 방식은 종종 EU와 비교되어 왔습니다. EU가 포괄적인 AI 법을 만드는 것과 달리, 중국은 특정 AI 애플리케이션(예: 추천 알고리즘, 딥페이크, 생성 AI 등)을 하나씩 규제해 왔기 때문이죠. 새로운 기술과 사용 사례가 나올 때마다 꾸준히 새로운 정책 도구와 규제를 발표하고 있습니다.
중국은 최근 생성 AI 규제에 더해, 생성 AI 모델 훈련에 사용할 수 없는 데이터 블랙리스트 정책을 발표했습니다. 이 정책에 따라 생성 AI 모델 훈련에 사용되는 데이터셋은 보안 평가를 거쳐야 하고, "불법 및 유해 정보가 5% 이상" 포함된 경우 블랙리스트 처리됩니다. 유해정보란, '테러리즘이나 폭력을 옹호하는 행위', '사회주의 체제 전복', '국가 이미지 훼손', '국가적 단결과 사회 안정을 훼손하는 행위'를 포함한 정보를 뜻한다고 하네요.
중국의 GAIGI는 아시아, 아프리카 등 일대일로에 참여하는 국가들의 AI 거버넌스에 영향을 미칠 것으로 예상됩니다. GAIGI가 AI에 관한 최초의 다자간 협력은 아니지만, 150개 이상의 국가가 포함된 대규모 협력이 될 것입니다.
- G7은 아직 공개되지 않은 자체 AI 거버넌스 지침을 작업해 왔지만, EU와 유사할 것으로 예상됩니다.
- ASEAN도 최근 AI 윤리 및 거버넌스에 대한 가이드 초안을 준비했습니다. 하지만 일대일로는 ASEAN 국가 전체에도 적용되므로 GAIGI가 ASEAN의 AI 가이드에도 영향을 미칠 수 있습니다.
- 아프리카는 AI 규제 논의 초기 단계에 있습니다. 일대일로가 아프리카 국가 대부분을 포괄하는 만큼, GAIGI는 아프리카 전역의 AI 표준을 만드는 데 큰 영향을 미칠 수 있습니다.
미국과 중국이 글로벌 표준에 대한 리더십을 가져가려고 하면서 AI 분야가 경쟁의 장으로 부상했습니다. GAIGI는 AI 규범 개발을 위한 글로벌 협력을 지지한다고 밝혔는데요. 세계 각국이 어떤 합의에 도달할지 지켜봐야겠습니다.
듣는 게 이렇게 중요합니다: 한국의 IGF, KrIGF
by 🍊산디
“IGF에는 어떤 방식으로 참가하시게 되셨는지 궁금합니다. KrIGF 의 존재가 잘 알려져 있지 않아서... 최근 몇 년 간의 KrIGF 및 거기서 다뤄진 관련 주제들은 어떻게 보시는지도 궁금해요.”지난주 IGF 탐방기를 보신 한 독자분께서 질문해 주셨습니다. KrIGF를 아시다니 무척 반가워요!
KrIGF는 한국에서 개최되는 IGF입니다. IGF의 한국 버전이죠. 저는 올해 처음으로 KrIGF를 가보았습니다. (질문 주신 구독자님보다 제가 훨씬 견문이 짧을 듯해요.)
IGF는 세계 각국에서도 국내 현안을 다루며 개최됩니다. 현재까지 103개 국가에서 개최되었네요. (살펴보니 모든 국가에서 매년 개최되는 것은 아닌 듯 합니다.) 각국에는 IGF를 조직하는 중심 기구가 있죠. 한국은 한국인터넷진흥원(KISA)이 주축이 되어 KrIGF를 개최합니다.
이론적으로 각국 IGF 역시 시민단체, 연구자, 학생, 기업 등 누구나 세션 구성을 제안하고, 직접 꾸려나가는 방식으로 조직됩니다. 연사도 직접 섭외하고, 회장에서의 진행도 직접 합니다.
2023 KrIGF의 세션을 모두 듣지는 못했지만, 저는 <인공지능 학습 데이터의 저작권과 창작자 보호, 어떻게 할 것인가?>를 무척 재미있게 들었습니다. 법리, 철학 논의보다도 웹툰작가노동조합 하신아 국장님, 플로어에 계셨던 어린이청소년책작가연대 관계자님(죄송합니다 성함을 정확히 못 들었어요..)의 의견이 너무 좋았거든요.
어린이청소년책작가연대 작가님은 자신의 경험을 소개해 주셨어요.
빠르게 말씀하시는 내용을 제가 받아 적은 거라 구체적인 사실관계는 다를 수도 있으니 큰 틀만 이해해 주세요.
- 어린이청소년책작가연대에 과기부 관계자들이 미팅하고 싶다며 방문.
- 과기부 관계자들은 초거대인공지능학습데이터 구축을 위해서는 동화 작품이 많이 필요하다며 저작권 ‘문제’를 ‘해결’해서 지원사업에 지원할 것을 제안.
- 데이터 활용 방안을 물으니, 동화 작품을 인공지능에 학습시켜 동화 줄거리를 생성할 수 있도록 하고 이를 에듀테크 플랫폼이 쓸 수 있도록 하겠다고 함.
- 동화 작가 입장에서 에듀테크 플랫폼은 동화책을 가장 많이 판매하는 고객.
작가님은 국가가 앞서서 특정 플랫폼의 이윤을 위해, 저작권자에게 직접 찾아와 공공데이터 사업을 설명하는 것이, 저작권 ‘문제’를 ‘해결’하고 오라고 말하는 것이 전혀 이해가 되지 않는다고 이야기했습니다. 이 이야기를 듣고 저는 생성 AI와 저작권 이슈에 대해 제가 그동안 가지고 있던 관점이 통째로 잘못되었다고 생각했어요.
저작권 ‘문제’의 원인은 법도, 기술도, 인센티브도 아니라 저작권을 둘러싼 거버넌스의 실패와 해묵은 불신입니다. 새로운 기술이 작품 활동에 도움이 될 것이라는 창작자의 기대는 자신의 창작물에 대한 권리를 ‘문제’로 만드는 프레임 안에서 반복해서 좌절되어 왔고, 우리는 불신의 맥락 위에서 창작자의 권리를 이야기해야 합니다.
2023 KrIGF의 모든 세션이 재미있지는 않았습니다. 실망스러운 세션도 있었고, KISA가 적극적으로 참여를 독려했으면 좋겠다는 생각도 했어요. 그래도 2023 KrIGF은 제가 기술의 미래를 약속하는 민주적 거버넌스에 관심을 갖는 계기가 되었네요. 분명 이런 생각은 논문, 책 등을 통해서는 알 수 없는 내용이었습니다.
이해관계자의 이야기를 듣는 자리가 이렇게 중요합니다.
