물고기가 존재하지 않는다면, 우리가 이 세계에 관해 아직 모르고 있는 것은 또 뭐가 있을까? (…) 또 어떤 범주들이 무너질 참일까?
—룰루 밀러 (정지인 역), <물고기는 존재하지 않는다>

AI 윤리 뉴스 브리프

2025년 2월 첫째 주
by 🤔어쪈

1. DeepSeek 사태(?), 얕지만 넓게 바라보기

설 명절동안 뉴스 지면과 소셜미디어가 전부 DeepSeek(딥시크) 이야기로 가득찬 것을 보며 AI 윤리 북클럽을 시작하고 레터를 쓰기로 마음먹었던 재작년 초가 떠올랐습니다. 챗GPT의 등장과 파급력도 굉장했지만, 그보다 쏟아지는 AI 뉴스에 모두가 압도당하던 시기였죠.

AI 윤리 레터는 지금까지 이어지고 있는 ‘AI 하이프’에 편승하기보다 그로 인해 가려진 실질적인 공동체 차원의 문제를 다뤄왔습니다. 오늘도 넘쳐나는 딥시크 관련 소식들로 시끌벅적한 와중에 자칫 좁아질 수 있는 시야를 계속해서 폭넓게 유지하기 위해 몇가지 사실만 짚고 넘어가보려 합니다.

• 딥시크는 혜성처럼 갑작스레 등장한 회사가 아닙니다. (사실 달리 생각하면 AI 스타트업 대부분이 창업한지 얼마 되지 않았죠.) 딥시크는 2023년 말부터 꾸준히 LLM을 개발하고 공개해오며 업계에서 결코 작지 않은 존재감을 갖고 있었습니다. 중국에 딥시크와 같이 자체 AI 모델을 개발할 역량을 갖춘 기업이 여럿 있고, 강력한 AI 산업 생태계가 조성되어 있다는 점도 기억해둘만한 사실입니다. 빅테크에 해당하는 알리바바(Qwen) 말고도 AI 스타트업으로 Moonshot AI, 01.AI, Zhipu AI, Baichuan 등을 손에 꼽을 수 있으며, 칭화대나 BAAI(베이징 AI 아카데미)와 같이 뛰어난 연구인력이 있는 연구기관도 많습니다.
• 딥시크가 발표한 모델의 성능이 크게 뛰어나거나, 기반 기술이 굉장히 새로운 것도 아닙니다. 분명 학습 효율성이나 논리적 사고(reasoning) 능력 확보를 위한 강화학습 기법 등 혁신적인 면모가 적지 않습니다. 단지 이렇게 사회 전체가 떠들썩할 정도로 충격적인 진보라고 보기엔 어렵다는 뜻입니다. 딥시크가 이용약관을 어겨가며 오픈AI 모델을 증류(distillation) 기법에 활용했다는 의혹조차 업계에서는 너무도 일반적인 일이라 크게 문제삼지 않는 분위기입니다. 되려 오픈AI가 공식 대응하면 그 모양새가 꽤나 아이러니한 게 사실이죠.

하지만 그렇다고 딥시크를 둘러싼 뜨거운 반응을 그저 호들갑으로 치부하기는 어렵습니다. 왜냐하면:

• 딥시크가 새로운 모델을 발표하기 전까지만 해도 AI 산업계에서는 ‘더 많은 투자, 더 방대한 규모의 인프라, 더 크고 뛰어난 모델 (더더더)’ 내러티브를 매우 당연하게 여기고 있었습니다. 오픈AI 중심의 세계 최대 데이터센터 구축을 위한 스타게이트(Stargate) 프로젝트가 대표적이죠. 하지만 딥시크가 제한적인 인프라 조건하에서도 고성능의 AI 모델을 효율적으로 생산해냈고, 심지어 이를 공개 가중치(open-weight) 모델로 풀면서 실리콘밸리의 ‘더더더’ 내러티브에 걸림돌이 생겼습니다.
• AI 영역에서의 미국-중국 패권 다툼이 훨씬 빠르게 심화되는 양상입니다. 그렇지 않아도 미국은 AI를 국가 안보를 위한 전략 기술로 규정한 이후 무역 제재 등을 통해 고급 AI 기술의 확산을 통제해왔죠. 이런 맥락에서 중국 기업의 약진은 미중 기술 격차나 제재 효과 등에 대한 구체적인 사실 관계와 무관하게 미국에게 ‘스푸트니크 모먼트(Sputnik Moment)’로 받아들여질 공산이 큽니다. 미중 외로도 EU를 비롯한 전세계 국가들이 AI를 전략 기술로 판단하고 사실상의 군비 경쟁 체제에 돌입한다면 앞으로의 AI 연구개발의 방향과 방식, 경로는 지금까지의 그것과 크게 달라지지 않을까요.

2. 이게 바로 실리콘밸리 과두정 (Sili-garchy)?

• 트럼프 2기 행정부가 출범했습니다. 일론 머스크를 포함한 빅테크 기업 대표들은 취임식에 대거 참석해 가족 다음으로 대통령에 가까운 자리를 차지했습니다. 이 전례 없는 광경을 보며 바이든 전 대통령이 퇴임 연설에서 미국의 현실을 분석하며 언급한 단어들을 떠올린 건 저뿐만이 아닐 겁니다.

• 바이든은 미국의 권력이 극소수의 갑부에게 집중되고 있다며 과두정(oligarchy)의 출현을 우려했습니다. 또한 60년 전 아이젠하워 대통령이 경고했던 군산복합체의 부상에 빗대어 ‘기술 산업 복합체(tech industry complex)’가 형성됨에 따라 민주주의가 위협에 처할 수 있다고 지적했습니다. 군산복합체에 대한 비판적 담론은 군부와 방산업체, 더 나아가 정부와 학계까지 결탁하여 전쟁 또는 군비 경쟁을 조장하는 등의 정치적 영향력을 행사하는 것에 대한 경계가 필요하다는 점을 강조합니다. 바이든의 경고 역시 이른바 실리콘밸리 과두정(Sili-garchy)이 공고해지지 않도록 지속적인 견제와 감시가 필요하다는 의미로 해석할 수 있곘죠.
• 그리고 트럼프는 임기를 시작하기가 무섭게 바이든이 ‘안전, 보안, 신뢰’에 초점을 맞춰 추진했던 AI 행정명령을 곧바로 철폐했습니다. 기존 행정명령을 기업에 불필요한 부담을 지워 미국의 글로벌 AI 개발 선도를 방해하는 ‘위험한’ 정책이라고 평했죠. 다만 해당 정책은 기업에 앞서 연방 부처에 먼저 적용되어 정부기관에 보다 책임있는 AI 활용을 주문하고 있었습니다. 그리고 이를 폐기한지 며칠만에 오픈AI는 미국 정부를 위한 ChatGPT Gov 서비스를 출시했습니다.

3. 파리 AI 정상회의를 앞두고 발표된 국제 AI 안전 보고서

• 영국 블레츨리(’23년 11월), 한국 서울(’24년 5월)에 이어 다음주 프랑스 파리에서 3번째 AI 정상회담이 개최됩니다. 영국에서 첫 회의가 개최될 당시 <국제 AI 안전 보고서(International AI Safety Report)> 작성을 위한 전문가 그룹을 결성했었죠. 요슈아 벤지오(Yoshua Bengio)를 필두로 전세계 100명의 내로라하는 AI 전문가가 모였습니다. 한국 정상회의 때 공개했던 중간 보고서를 보완하여 이번 파리에서 개최될 행사를 앞두고 최종본을 발표했습니다.

• 길이가 300 페이지에 달하는만큼 여기에 내용을 충실히 요약하기는 어렵겠지만, 보고서는 범용 인공지능(general-purpose AI)에 초점을 맞춰 범용 인공지능이 무엇을 할 수 있는지, 어떤 위험이 있는지, 이를 완화하기 위한 어떤 기술이 있는지를 다룹니다. AI를 활용한 각종 사기나 딥페이크 성착취물 등 이미 드러난 위험에 대해서는 심각성과 대응 필요성을 둘러싼 이견이 없는 반면 AI에 대한 통제력 상실 등 발생 가능한 위험에 대해서는 전문가 간 명확한 합의에 이르지 못했다고 밝혔습니다. 현재 발생중인 위험에 대해 여러 기술적 해법이 제안되어왔으나 문제를 완전히 해결할 수 있는 건 아니라고도 적고 있습니다.
• 보고서는 근거 기반의 정책 입안을 지원하는 데에 목적을 둔다면서도 아무런 정책 제안을 하지 않는다고 명시하고 있습니다. 철저히 연구자 관점에서 AI 안전 관련 최신 연구들을 망라하여 (참고문헌이 무려 1366개!) 과학적 증거를 제시하는 것에 중점을 두고 있죠. 직전 소식에서 언급한 기술 산업 복합체에 의한, 복합체를 위한 보고서라는 비판을 의식했는지 특정 정부나 기업 소속 인사는 저자에서 제외했다고 강조하기도 합니다. 이렇게 보고서 앞뒤로 설명이 길어진다는 것은 AI 안전에 수많은 이해관계가 걸려있고, 그만큼 정치적인 문제라는 뜻이기도 하죠.

4. 미국 저작권청: AI 써도 저작권 인정 받으려면…

• 생성형 AI가 불러 일으킨 논쟁에서 빠지지 않는 주제가 있습니다. 바로 저작권이죠. 물론 저작물을 학습 데이터로 활용하는 것이 저작권을 침해하는 것인지에 대한 논의도 치열하지만, AI를 활용하여 만들어진 저작물의 저작권 인정 여부와 누구에게 부여할 것인지도 관건입니다. 미국 저작권청은 이러한 질문들에 대해 공식 입장을 표명하기 위해 일찍이 2023년 초부터 특별 조사연구를 실시했습니다. 그 결과 작년 7월 ‘디지털 복제물(Digital Replicas)’라는 주제로 딥페이크를 비롯한 기술에 대해서는 새로운 법이 필요하다는 의견을 밝힌 바 있죠.
• 이후 지난 1월말 저작물성(copyrightability)을 주제로 한 두번째 보고서를 발간했습니다. 시시할 수도 있지만 결론부터 살펴보면 보고서는 아래와 같이 적고 있습니다:
  • 기존 저작권법으로도 AI 관련 저작권성에 제기된 질문들에 답변이 가능하며, 법 개정은 불필요함
  • AI 사용 여부와 무관하게 저작물 산출에 사람이 얼마나 기여했는지가 저작권성 판단을 위한 핵심 기준임
  • 구체적인 기여도는 사례별 분석이 필요하겠으나, 사람의 창의적 선택과 조정, 배열과 수정도 저작권이 인정되는 반면 현재 기술 수준에서 프롬프트만으로 결과물을 충분히 제어할 수 없는 만큼 저작권 보호를 받기 위해서는 프롬프트 이상의 무언가가 있어야 함
• 이로서 미 저작권청은 사람의 실질적 기여를 원칙으로 삼으면서도 기술 변화에 따라 실제 판정 방식은 달라질 수 있다는 뜻을 밝혔습니다. 이제 가장 논쟁적인 ‘저작물의 학습 데이터 활용’에 대한 보고서를 낼 차례인데요. 이미 진행중인 소송이 여럿 있는 만큼 큰 파급력이 예상되는 와중에 저작권청이 어떤 결론을 내릴지 궁금해집니다.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.