우리는 신자유주의가 공고히 뿌리를 내렸으며, 분노에 찬 종족 민족주의와 기후변화에 따른 재앙이 더 자주, 더 크게 번지도록 부채질하는 시대를 살고 있지만, 문제는 그 뿐만이 아니다. 지금 우리에게는 그럴듯한 대안에 관한 구체적인 아이디어조차 없다. 계획 경제는 조잡한 물건만 잔뜩 생산하는 데다 관료제 독재로 변질되기 쉬우며, 경제적으로 불합리할 뿐 아니라 생태계에 악영향을 끼치는 것으로 드러났다. 유럽의 복지 제도와 케인스주의의 완전고용 정책은 경제성장이 둔화되고 탈공업화가 지속되는 상황에 속수무책이었다. 그 사이 사회운동가들은 신자유주의의 공격에 맞서 최후 방어선을 구축하는데 주력해왔지만, 기껏해야 파국을 늦추는 것 이상을 기대하기는 어렵다.
—아론 베나나브, <자동화된 노동의 미래>

AI 윤리 뉴스 브리프

2024년 3월 다섯째 주
by 🧙‍♂️텍스

1. 고도화되는 이미지 생성 알고리즘과 반복되는 저작권 이슈

• 오픈AI는 25년 3월 25일 기존 이미지 생성 모델인 DALL-E를 대체하는 새로운 생성 모델을 발표했습니다. 새로운 모델은 언어를 보다 잘 이해하면서 텍스트 삽입이나 복잡한 구조를 포함한 이미지도 정확하게 생성하는 모습을 보여주었습니다. 특히, 기존 생성 모델이 취약했던 텍스트 삽입이 정교해지면서 몇 줄의 프롬프트만으로 손쉽게 짧은 만화를 만드는 방법이 SNS상에 공유되면서 “인스타툰은 끝났다”는 표현 또한 등장했습니다.
• 또한, 이미지 생성 모델 업데이트 직후 샘 올트먼은 지브리 스타일로 이미지를 생성할 수 있다는 사실을 X에 홍보했습니다. 이에 따라 이미지 생성 모델의 저작권 침해 여부에 대한 논란도 다시금 떠오르고 있습니다. 한 기사는 단순한 스타일 모방은 저작권 보호 대상이 아닐 수 있지만, 특정 장면의 구성이나 미술적 특징이 실질적으로 유사할 경우 침해로 간주할 수 있다고 지적합니다.
• 그동안 생성형 AI 서비스 기업들은 지속적으로 제3자가 라이선스 없이도 저작물 사용을 허용하는 공정 이용 (fair use)으로 학습 데이터 저작권 이슈를 우회하려고 했습니다. 특히, 생성형 AI는 결과물에 명확한 데이터 사용 흔적이 남지 않기 때문에 기업들은 저작권 침해 판단이 어려운 점을 활용합니다. 반면, 수많은 저작물을 소유한 게티 이미지와 같은 기업들은 AI 플랫폼의 상업성이 공정 이용에 부합하지 않는다고 주장하고 있습니다. Stable Diffusion의 저작권 이슈로 시작한 게티 이미지와 스태빌리티 AI의 소송은 공정 이용에 대한 논의와 함께 여전히 진행 중입니다. 창작자들의 권리를 보호할 수 있는 법적 근거가 어서 등장하기를 기대해 봅니다.

2. 인공지능 로봇에 하이프를 불어넣는 인공지능 기업들

• 최근 휴머노이드 로봇에 대한 관심이 커지고 있습니다. 미국 보스턴다이나믹스와 중국 유니트리는 서로 경쟁하듯이 사람 동작을 따라 하는 휴머노이드 영상을 유튜브에 업로드했습니다. 최근 들어서는 단순히 행동을 따라 하는 것이 아니라 작업을 수행하는 모습들을 보여줍니다. 보스턴다이나믹스는 로봇이 공장에서 물건을 순서대로 정렬(sequencing)하는 모습을 보여주었습니다. 피규어 AI는 자사의 휴머노이드인 Helix 2대가 협업하는 데모를 보여주었습니다.
• 더불어 로봇 인공지능 모델의 한 형태인 VLA(시각-언어-행동, Vision-Langauge-Action) 모델 또한 유행 중입니다. 구글 딥마인드는 최근 제미나이 로보틱스를 공개했습니다. 모든 AI 이슈에 빠지지 않는 엔비디아 또한 GROOT N1이라는 VLA 모델을 오픈 웨이트로 공개했습니다.
• 디지털 미디어 상의 AI 서비스와 다르게 로봇 AI의 오작동은 사람에게 물리적인 상해를 끼칠 가능성이 있다는 점에서 굉장히 높은 동작 안전을 요구합니다. 현재 가능성을 탐색하는 수준의 인공지능 로봇은 실제 현실에서 보기까지는 훨씬 더 오랜 시간이 걸릴 것으로 보입니다.
• 특히, 대형 AI 모델의 근본적인 한계를 개선 및 고도화하는 것은 매우 어려운 문제입니다. 반면, 로봇과 같은 분야에서 새로운 가능성을 탐색하는 것은 비교적 허들이 낮을 수 있습니다. IT 서비스에서 AI 에이전트로 AI 하이프(hype) 사이클의 정점에 다다른 인공지능 기업들은 로봇을 통해 새로운 AI 하이프를 시작 중인 것으로 판단됩니다.

3. 더불어민주당 이재명 대표와 유발 하라리 교수 대담

• 지난 AI 윤리레터 피드백에서 한 독자분이 지난 3월 22일 있었던 이재명 대표와 유발 하라리 교수의 대담에서 AI 윤리 관련 이슈가 많이 언급되었다고 알려주셨습니다. 대담에서는 노동시장과 일자리, 알고리즘과 민주주의 그리고 국제 질서와 AI 거버넌스 등이 주요한 의제로 다뤄졌습니다.
• 많은 AI 윤리 관련 이슈를 다루었지만, 대담에서는 두 개인의 생각이 명확하게 드러났습니다. 요약하자면 이재명 대표는 AI 기술의 비약적인 생산성 향상이 예정되어 있기에 AI가 초래할 불평등을 완화할 수 있는 정책이 필요하다는 것을 주된 논지로 내세웠습니다. 주요 언론에서 인용한 K-엔비디아, 전 국민 챗GPT 보급은 불평등 완화의 정책 아이디어 중 일부입니다.
• 유발 하라리 교수는 초지능 등장 및 AI의 행위자성을 전제로 하여 AI의 위험을 통제하고 긍정적인 방향으로의 AI 발전을 이끌기 위한 글로벌 AI 거버넌스를 주장했습니다. AI 행위자성의 잠재된 위험을 막기 위해서는 디지털 미디어상에서 AI가 사람과 구별되도록 강제해야 한다고 언급했습니다. 또한, 미국과 중국에 집중된 AI 개발은 잠재된 AI 위험을 통제하지 못하여 파국의 가능성이 있다는 이야기를 재차 강조했습니다. 이를 통제하기 위해서는 국가 간에 신뢰를 회복해야 하는 이상적인 접근과 국가 연합 등을 통한 미/중에 필적하는 대안 세력 구축이 현실적인 방안으로 언급되었습니다.
• 두 사람의 관심 영역은 경제적 불평등과 글로벌 AI 거버넌스로 달랐지만, 정치의 역할과 정책적 실천이 핵심적이라는 공감대가 있었습니다. 다만, AI 윤리 레터에서 AI 하이프의 근간이 되기에 비판적 다뤘던 주제인 1) AI의 비약적 생산성 향상 2) AI 행위자성 3) 초지능의 등장 등을 당연하게 전제한다는 점에서 아쉬움이 남았습니다. 하지만, 이러한 디테일을 떠나서 정파적 이슈가 아니라 AI 윤리 담론을 주요 정치인과 정당이 기획했다는 점은 긍정적입니다. 앞으로 한국에서도 AI 관련 논의가 더욱 건설적으로 발전하기를 기대해 봅니다.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.