파티를 망칠 필요는 없지만, 진실은 알아야 한다. 우리는 마치 내일이 없는 양 물과 공기를 비롯한 지구의 자원들을 흥청망청 써버렸고 그 탓에 정말로 내일이 사라져버렸다. 자, 파티는 계속되고 재미있는 대목은 지금부터다.
—커트 보니것, <나라 없는 사람>

AI 윤리 뉴스 브리프

2024년 11월 첫째 주
by 🍊산디

1. 전기 먹는 데이터센터, 비용은 지역주민 부담?

• 구글, 아마존 등의 빅테크는 AI를 개발하기 위해 데이터센터 건설에 박차를 가했습니다. 데이터센터의 컴퓨터를 가동하고 냉각하는 데에는 엄청난 전기가 필요하죠.
• 문제는 늘어난 전기 수요를 기업이 모두 부담하고 있는 게 아니라는 점입니다. 미국에서 데이터센터를 유치한 일부 주에서 그로 인해 늘어난 전기 수요를 전기 가격 인상을 통해 지역 주민들이 감당하고 있는 것으로 보인다는 워싱턴포스트의 보도입니다.
• 사우스캐롤라이나의 사례를 볼까요. 사우스캐롤라이나는 구글 데이터센터 유치를 위해 53년간 재산세를 4%로 동결했습니다. 전기 또한 킬로와트시당 6센트로, 일반 고객에 비해 60% 저렴한 가격에 제공됩니다.
• AI 데이터센터가 지역사회에 경제적 이익을 제공할 수는 있지만 그 비용은 공공 서비스 비용, 세금 등의 형태로 지역 주민들에게 전가될 수 있습니다. AI 기업의 성장이 지역 주민들의 삶의 질을 저하로 이어지지 않기 위해서는 어떤 조치들이 필요할까요?

2.브로맨스는 끝나는가: 마이크로소프트-오픈AI

• 샘 올트먼은 마이크로소프트와 오픈AI의 관계를 두고 “기술 분야 최고의 브로맨스”라 했었습니다. 그리고 작년 11월 오픈AI 이사회의 해고로 올트먼이 쫓겨났을 때 마이크로소프트는 그를 두 팔 벌려 영입했죠. 결과적으로 올트먼은 5일만에 다시 오픈AI에 돌아갈 수 있었습니다.
• 하지만 뉴욕타임스의 보도에 따르면 오픈AI 내부에서의 ‘쿠데타’를 계기로 마이크로소프트는 오픈AI와의 관계를 재고한 것으로 보입니다. 이후 마이크로소프트는 오픈AI의 경쟁사인 인플렉션(Inflection)을 공동창업한 무스타파 술레이만(Mustafa Suleyman)을 고용하고 오픈AI를 감독하도록 했습니다. 오픈AI가 경쟁사 출신인 술레이만의 감독을 달가워할 리 없죠.
• 한편 오픈AI는 벤처 캐피털인 Thrive Capital 등으로부터 투자를 유치하는 데에 힘쓰고 있습니다. 그러나 오픈AI의 투자제안서를 분석한 뉴욕타임스는 오픈AI가 올해 50억 달러의 손실이 발생할 거라 평가했습니다. 또한 2029년에는 연간 375억 달러를 컴퓨팅 비용에 지출하게 될 것이라는 예측도 내놓았죠.
• 오픈AI의 비용 구조에서 가장 큰 부분은 단연 컴퓨팅 비용입니다. 마이크로소프트가 투자한 130억 달러는 대부분 마이크로소프트의 클라우드 컴퓨팅 비용으로 지출됩니다. 오픈AI는 자금과 컴퓨팅 파워를 마이크로소프트에 의존해왔는데, 마이크로소프트는 컴퓨팅 자원을 추가로 제공하는 데에 소극적인 태도를 보이고 있죠. 이것이 지난달 오픈AI가 펀딩 라운드를 통해 66억 달러를 조달한 이유입니다.
• 기업가치 1,570억 달러의 오픈AI도, 3조 1900억 달러의 마이크로소프트도 여전히 서로가 필요합니다. 하지만 독점적 관계에서 벗어나고 싶어하는 마음도 같죠. 이들의 관계는 어떻게 변화할까요. 인공지능 시장은 다극화에 도달할 수 있을까요.

3.중국, 오픈소스 AI 모델 라마(Llama)로 군용 챗봇 개발

• 중국 인민해방군과 연계된 연구기관인 군사과학원(Academy of Military Service, AMS)이 메타의 오픈소스 AI 모델 ‘라마(Llama)’를 활용해 군사용 챗봇을 만들었다는 사실이 처음으로 확인되었습니다. 라마 모델을 미세 조정하여 군사 분야에서의 대화와 질의응답에 최적화된 서비스를 개발했다는 것이죠. 실제 서비스되고 있는지 여부는 확인되지 않고 있습니다.
• 오픈소스로 공개된 라마의 라이센스에는 "군사, 전쟁, 핵 산업이나 응용 분야, 간첩 활동”이나 “폭력을 부추기고 조장하는" 무기와 콘텐츠의 개발이 금지된다는 내용이 포함되어 있습니다 (Llama Acceptable Use Policy). 하지만 라이센스를 따르지 않았다고 해서 메타가 이를 실질적으로 제한하기는 어렵습니다.
• AI 모델의 군사 목적 이용이 놀라운 일은 아닙니다. 이 소식이 ‘뉴스’가 되는 까닭은 AI를 둘러싼 미국과 중국의 패권 경쟁 속에서 미국에 소재한 기업이 개발한 오픈소스가 ‘적국’을 이롭게 했다는 데 있을 것입니다. 하지만 메타의 오픈소스 모델이 아니더라도 이미 중국은 자체적으로 군사 목적의 AI를 개발, 서비스하고 있을 가능성이 큽니다.
• 오픈소스를 통한 혁신의 공유는 제한되어야 하는 것일까요? 보다 중요한 문제는 중국을 비롯한 세계 각국의 군사 목적 AI를 시민이 감시할 수 있도록 하는 것이 아닐까요?

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.