기계는 많은 일을 할 수 있지만, 의미를 창조하지는 못한다. 그들은 우리를 위해 이 질문에 답할 수 없다. 기계는 우리가 무엇을 중시해야 하는지, 어떤 선택을 해야 하는지 말해줄 수 없다. 우리가 창조하는 세계 안에서 인공지능 기계가 존재하겠지만, 이건 그들을 위한 세계가 아니다. 우리를 위한 세계이다.
—폴 샤레, <새로운 전쟁>

AI 윤리 뉴스 브리프

2024년 2월 셋째 주
by 🧙‍♂️텍스

1. AI 정상회담 (Summit) 공동성명에서 빠진 영미

• 파리에서 AI 정상회담(Summit)이 열렸습니다. 전반적으로는 친기업적인 논조로 바뀌었습니다. 프랑스 마크롱 대통령은 큰 규모의 투자를, EU 규제 당국 또한 혁신 친화적 입법을 언급했습니다. 영국과 한국에서 열린 두 차례의 AI 정상회의에서 최우선이었던 안전(Safety)에 대한 우려는 거의 언급되지 않았으며, 최종 정상회담 선언문에서는 안전이라는 단어는 단 세 번만 등장했습니다. 그리고 미국과 영국은 공동성명에서조차 빠졌습니다.
• J.D. 밴스 미국 부통령은 오프닝 세션에서 AI 안전 대신에 AI 기회에 집중해야 한다고 말하면서 동시에 AI 산업의 미국 우선주의를 주창했습니다. 그리고 EU의 DSA(Digital Services Act)나 GDPR(General Data Protection Regulation)과 같은 입법이 AI 발전에 불필요한 규제를 만들고 있다고 주장했습니다. 특히, 특정 국가를 명시적으로 언급하지는 않았지만, 권위주의 국가의 AI 발전에 대응해야 한다는 점도 이야기했습니다.
• AI 정상회담을 주도했던 영국은 AI 정상회담의 성명이 글로벌 AI 거버넌스와 AI 기술이 국가 안보에 미치는 영향을 충분히 다루고 있지 못하다며 성명에서 빠졌습니다. 회담 이후 영국은 AI 안전 연구소(AI Safety Institute)의 이름을 AI 보안 연구소(AI Security Institute)로 변경했습니다.
• 중국 AI의 도전이 스푸트니크 모멘트(Sputnik Moment)로 각인된 것일까요? 영국과 미국은 AI 기술과 안보를 결합하고 있으며, EU마저 친기업적 입법에 박차를 가하는 모습입니다. 현 상황에서 우리는 어떠한 방향과 전략으로 AI 기술 및 AI 생태계를 바라봐야 할까요?

2. 폐쇄형 혹은 개방형 AI 모델 전략

• 국가 안보를 제외하고 딥시크를 바라보는 또 다른 관점 중 하나는 폐쇄형 혹은 개방형 AI 모델에 대한 관점입니다. 개방형 모델 전략을 고수했던 메타의 얀 르쿤은 링크드인 포스팅에서 중국의 AI가 미국의 AI를 뛰어넘은 것이 아니라 개방형 모델이 폐쇄형 모델을 능가한 것이라고 언급했습니다. 최근 미국 레딧 커뮤니티에서 샘 올트먼은 한 사용자의 질문에 개인적으로 역사의 잘못된 방향에 있었다고 생각한다면서 최우선 순위는 아니지만 개방형 모델 전략이 필요하다고 답했습니다.
• 또 다른 칼럼은 중국이 개방형 모델을 기반으로 활용해 정부 연구소와 기술 기업이 협력하는 AI 생태계를 발전시켜 왔으며 이를 통해 빠르게 AI 혁신을 달성했다고 지적했습니다. 그리고 미국 기업들은 폐쇄적인 모습을 보이며, 개방형 모델 장려하는 구글과 메타와 같은 기업들 또한 실제로는 폐쇄적인 전략을 유지하고 있음을 언급했습니다.
• 실제로 메타가 자칭 오픈 소스라고 주장하는 개방형 모델은 학습 데이터에는 접근 불가능한 오픈 웨이트 모델이라고 지칭되며, 오픈소스와 폐쇄형 모델의 중간 형태에 해당합니다. 오픈 웨이트 모델은 제3자가 데이터셋에 접근할 수 없기 때문에 학습 데이터에서 유래하는 편견이나 공정성과 같은 AI 윤리적 이슈를 직접적으로 통제할 수 없다는 한계를 갖고 있습니다.
• 반대로 개방형 모델은 데이터 오염(Data poisoning) 등에 취약하거나 군사적 활용으로 쉽게 확장될 수 있기에 이러한 개방형 모델의 한계는 꾸준히 지적되었습니다.

3. 그래서 GPU를 왕창 사면 한국도 딥시크를 만들 수 있나?

• 유상임 과학기술정보통신부장관은 기존 2030년까지 3만 장의 GPU를 구매하려는 계획을 앞당겨서 올해 1.5만 장, 2년 내 3만 장을 모두 구매하겠다는 계획을 발표했습니다. 약 4천만원인 엔비디아 H100을 3만 장 구매한다면 약 1.2조라는 예산이 필요합니다. 관련 기업들도 GPU를 소수의 기업에 몰아주면 한국에서도 딥시크 10개가 나온다고 이야기하면서 이러한 흐름을 부추기고 있습니다.
• 딥시크의 등장 이후 엔비디아의 딥러닝 반도체 독점력에 의문이 제기된 상황에서 GPU 대량 구매 계획은 좀 이상한 전략입니다. 구글은 자체 딥러닝 반도체인 TPU를 통해서 이미 거대 AI 모델 인프라를 구축했으며, 아마존은 데이터센터용 반도체 개발에 나섰으며, 메타는 국내 NPU 회사 인수를 고려하는 등 엔비디아의 의존도를 줄이기 위한 노력을 진행 중입니다. 차라리 이미 폐쇄형이나 개방형 대형 AI 모델을 개발한 국내 기업에 개방형 모델에 대한 인센티브를 제공하는 등의 다양한 방안을 모색해야 할 것입니다.
• 특히, 국가 차원에서 GPU를 관리하는 것도 비효율적일 가능성이 큽니다. 작년 국정감사에서 정부출연연구소의 GPU 관리 부실이 지적된 바 있습니다. 한국 대학과 연구소를 모두 겪어본 제 경험 상, 현재의 연구 환경은 GPU 클러스터 관리에 필요한 노동과 비용에 대한 고민없이 GPU 및 클러스터 관리를 연구자 개인에게 미루어 놓은 상황에 가깝습니다.
• 게다가 거대 AI 모델은 GPU만으로 개발되지 않습니다. 대형언어모델은 컴퓨터 한 대에서 학습이 불가능하기 때문에 컴퓨터 간의 통신이 매우 중요합니다. 이러한 부분이 하나도 언급되고 있지 않고 GPU 구매만 언급되는 상황에서 제대로 된 시스템이 구축될지 의문입니다.
• 최근 중국의 AI는 퍼스트무버적인 성격을 미약하게나마 보여 주었다고 판단됩니다. 한국은 GPU를 왕창 구매해서 딥시크를 따라가겠다는 식의 패스트팔로워 전략을 반복하고 있습니다. 국내 AI 관련 산업에 대한 인센티브가 정말로 필요한지 고민해 봐야 하며, 필요하다면 이를 어떻게 제공할지에 대한 깊은 논의가 필요한 시점으로 보입니다.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.