영향력 있는 엘리트는 어디에 시간이나 자본을 투자할 것인지 결정하며, 이들의 결정이 야기하는 막대한 사회적 결과는 다른 사람들 사이의 상호작용에 불변하는 특징으로 나타난다.
—올루페미 O. 타이워, <엘리트 포획>

AI 윤리 뉴스 브리프

2024년 11월 넷째 주
by 🧑‍🎓민기

AI 기본법, 법안소위 통과

• AI 기본법이 국회 과학기술방송통신위원회 법안소위원회를 통과했습니다. 연내 제정을 위한 첫 발을 내디뎠다는 평가입니다. 남은 절차는 과방위 전체회의(26일)와 법제사법위를 통과하고, 국회 본회의를 통과하는 것입니다. 내용으로는 정부의 AI 산업 발전 지원, 산업 신뢰 기반 조성, 그리고 AI 윤리를 지키기 위한 조항이 있습니다. 어떤 논의가 오갔는지에 대한 회의록은 아직 공개되지 않았습니다.
• 그러나 이번에 통과된 안에는, ‘고위험 AI’의 개발을 금지하는 조항이 포함되지 못했다는 소식이 들려옵니다. 대신 생명이나 안전에 관한 AI 기술은 ‘고영향 인공지능’으로 분류해 과기정통부가 가이드라인을 정하고 시정조치 불이행에 대해 과태료를 매길 수 있도록 한 것이 제재의 전부입니다. AI 기본법 제정 흐름을 감시해왔던 시민단체들은 “심사소위가 이 짧은 시간동안 다양한 쟁점에 대해 충분한 토론을 거쳐 충실한 축조심사를 하였는지 의문”이며 “우리 사회에서 금지하는 인공지능에 대하여 최소한의 규정이라도 두어야 한다”는 성명을 냈습니다.
• AI 진흥에 국가간 경쟁 논리가 도입되면서, 산업계와 국익을 위한 법이라는 주장에 규제 요구는 밀려나고 있습니다. “세뇌나 사회적 점수 평가, 생체인식을 통해 평화와 민주주의, 기본권을 침해하는 AI를 금지하자”는 것이 산업계와 정부 주장처럼 과도한 규제일까요? 제재 조항을 뒀다고는 하지만, 지금까지 산업진흥에 초점을 맞춰온 과기정통부가 위험한 AI를 제대로 규제할 수 있을지도 의문입니다. 부디 전체회의에서는 이러한 주요 쟁점에 대한 성실한 논의가 이뤄지길 바랍니다.

'AGI판 맨해튼 프로젝트', 미 의회 자문기관의 수상한 제안

• 미국 연방의회 자문기관인 미중경제안보검토위원회(U.S.-China Economic and Security Review Commission, USCC)가 19일 미국이 AGI 개발에 맨해튼 프로젝트 급의 자금 지원을 해야 한다고 제안했습니다. USCC는 미중 무역 및 경제 관계가 미국의 국가 안보에 미치는 영향을 조사해 입법과 정책을 제안해 왔습니다. 이러한 주장의 핵심 인물은 USCC의 위원이자 팔란티어의 CEO인 제이콥 헬버그입니다. 제이콥 헬버그는 “중국은 AGI를 향해 나아가고 있고, 미국은 이를 매우 심각하게 받아들여야 한다”며 에너지 인프라 강화와 데이터 센터 규제 완화를 정책의 예시로 들었습니다.
• 팔란티어는 빅데이터 정보분석 기업으로, CIA, FBI, 미 국방부의 의뢰를 맡아왔습니다. 전쟁 중인 우크라이나에서는 타격 대상을 지정하는 군사 분야를 포함해, 경제, 교육 등 다양한 분야의 정부 기관에서 팔란티어의 소프트웨어를 사용하고 있다고 합니다. AGI의 개념이나 달성가능성도 모호한 상황에서, 팔란티어의 기업으로서의 목표와 이번 제안이 과연 별개인지 의심스럽습니다.
• 트럼프의 당선으로 미중 갈등은 더욱 격화될 것으로 예상됩니다. AI 개발에 막대한 자원을 투입하고 경쟁국을 배제하려는 “AI 군비 경쟁” 역시 본격화될 가능성이 높습니다. 이 과정에서 재생에너지, 기후위기 해결, 식량 문제 해결 등 전지구적 위기 극복은 뒷전으로 밀려날 우려가 큽니다. 그 대신 끝이 어딘지 모르는 AGI 개발에 천문학적 예산이 쓰이고, 데이터와 연구결과를 비공개하는 게 보편화되는 등 위기를 해결하는 데 필요한 세계적 연구 협력은 위축될 가능성이 높기 때문입니다.
• 실제 맨해튼 프로젝트의 결과는 어땠을까요. 사실 나치 독일은 핵무기를 개발하지 못했다는 것이 드러났지만, 덩달아 핵무기를 개발한 소련과 미국 사이에 막대한 핵 군비 경쟁과 몇 번의 핵전쟁 위기가 일어났습니다. AI판 맨해튼 프로젝트는 과연 어떻게 다른 결말을 쓰려는 걸까요?

미국 AI 정책의 방향키를 쥔 일론 머스크

• 도널드 트럼프 미국 대통령 당선인과 일론 머스크의 행보가 연일 언론을 뒤흔들고 있습니다. 머스크가 ‘정부효율부 수장’이라는 직함을 받고 트럼프의 측근들을 누르며 경제 정책, 인사 등을 좌지우지하는 2기 행정부 핵심인물로 떠오른 것입니다. 이 소식이 중요한 이유는 머스크가 대표적 “AI 규제론자”로 일컬어지면서도, “xAI”라는 자체 AI 기업을 보유하고 있기 때문입니다.
• 머스크는 기술 발전이 인류에게 유익하게 쓰일 것이라고 공언해 왔지만, AGI 등 강력한 AI 출현에 대해서는 위험성을 경고했습니다. 트럼프를 지지한 테크 기업인 중 AI 가속주의자가 다수인 것과는 대조적입니다. 이런 양가적 행보와 겹쳐 보이는 것은, 머스크가 대표적 전기차 브랜드인 “테슬라”를 보유하고 있으면서도 전기차 보조금을 폐지하겠다는 트럼프를 지지했다는 점입니다. 이에 대해 머스크는 전기차 보조금 폐지가 경쟁사에게 더 치명적일 것이라며 장기적으로는 더 도움이라고 발언한 바 있습니다. 즉 머스크가 비슷한 전략으로 AI 진흥과 규제의 방향키를 잡고 자신의 사업에 유리하게 가져갈 가능성도 있습니다. 최근 머스크는 경쟁상대인 오픈AI를 대상으로 한 소송에 마이크로소프트를 끌어들이며 공격 수위를 높이기도 했습니다.
• AI 정책의 방향성을 알기 위해 억만장자의 입에 주목해야 하는 마음은 편치 않습니다. AI 기술 개발의 방향성이 일부 초부자들에게 달려 있는 상황 자체가 문제이기 때문입니다. 이들은 데이터라는 권리의 회색지대를 침탈하며 막대한 이윤을 쓸어가면서, AI 기술이 낳는 문제 해결에는 무관심합니다. 이들이 말하는 ‘진흥’과 ‘규제’가 과연 기본권과 사회의 가치에 부합하고 제대로 견제받고 있는지 감시의 눈을 떼지 않아야겠습니다.

AI와 ‘국익’을 강조하는 소식이 많은 한 주였습니다. 그러나 AI가 기대했던만큼의 생산성 향상을 보여주지 못한다는 분석이 늘어나고 있는 상황입니다. (8월 뉴스 브리프에서도 다뤘습니다) 이번달 AI 업계에선 거대 모델 필요성을 담보해왔던 스케일링 법칙이 한계에 부딪쳤을지도 모른다는 가설이 생겨나고 있고요.

지금이야말로 숨을 돌리고, AI에 국가 단위의 막대한 투자와 자원을 쏟아붓는 것이 옳은지 질문해야 하지 않을까요? 그리고 AGI에 대비한 허황된 규제가 아닌, 현재 있는 AI 기술을 민주주의, 지속가능성 등에 맞춰 사용하기 위한 실질적인 규제가 필요한 시점이 아닌가 생각해 봅니다.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.