AI가에 붙은 대자보 2개

AI 기업의 말을 곧이 곧대로 믿을 수 있을까?

2024년 3월 11일 — 8 min read

AI 하이프에서 한발짝 물러서면 우리가 이미 [소셜 미디어에서 출발한] 문제들에 둘러싸여있음을 알게 될 것이다.

—프랜시스 하우겐 (페이스북 내부고발자, 출처: WIRED)

AI 윤리 뉴스 브리프

2024년 3월 둘째 주
by. 🤔어쪈

1. AI가에 붙은 대자보 2개
2. MS: (문제 있어도) ‘진행시켜!’
3. 학교 숙제를 넘어 연구 논문까지 AI가?
4. 결국 돈싸움이었던 일론 머스크 VS (닫힌) 오픈AI

AI 윤리 레터에 언급된, 아니 웬만한 글로벌 AI 기업 모두가 모처럼 중지를 모았습니다. 유명 벤처투자자 론 콘웨이(Ron Conway)가 이끄는 SV Angel에서 발표한 ‘더 나은 미래를 위한 AI 만들기’라는 성명서에 오픈AI, 메타, 구글, 마이크로소프트 등 수많은 회사가 이름을 올렸습니다.
하지만 아무리 읽어봐도 AI는 좋다, 필요하다, 그러니 잘 만들자는 공염불로만 읽히는 건 저뿐만이 아닌가 봅니다. 이전에 AI 하이프 뉴스 체크리스트를 통해 소개한 적 있는 에밀리 벤더(Emily M. Bender) 교수는 참여 기업들이 AI를 계속 개발해서 더 부자가 되겠다는 내용으로 패러디하기도 했죠.

한편, 학계에선 기업들이 정말 안전하고 믿을 수 있는 AI 시스템을 만들고자 한다면 ‘독립적인 AI 평가에 대한 면책 조항 (A Safe Harbor for Independent AI Evaluation)’을 둬야한다는 주장을 담은 성명서가 나왔습니다. AI의 위험성과 취약점을 찾으려는 연구자나 이용자를 막거나, 더 나아가 법적 책임을 묻는 상황을 만들지 말라는 요청인데요. 앞선 성명서에 참여한 AI 기업들이 어떻게 응답할지 궁금해집니다.

오픈AI가 개발한 GPT, DALL-E 등의 AI 모델에 대한 독점사업권을 가진 마이크로소프트(MS)는 코파일럿(Copilot)이라는 이름으로 그 누구보다 공격적으로 AI 사업을 밀어붙이고 있습니다. 그만큼 동시에 ‘책임있는 AI (Responsible AI)’를 강조하며 전면에 내세우고 있기도 하죠.
하지만 MS의 AI 개발자 셰인 존스(Shane Jones)는 코파일럿의 이미지 생성 기능이 가진 위험성을 수차례 제보했음에도 불구하고, 회사가 이를 인지하고도 묵살한 채 서비스를 출시했다고 폭로했습니다. 그는 최소한 코파일럿이 유해 콘텐츠를 생성하거나 저작권을 침해할 수 있음을 고지하고, 이용연령을 제한하거나 별도 보호 장치를 두어야 한다고 주장합니다.
존스가 MS 경영진과 FTC에 서한을 보냄과 동시에 관련 기사가 보도되자 MS는 유해 콘텐츠 생성에 쓰이는 프롬프트를 차단하는 등의 조치를 하기 시작했습니다. 우리에게 굉장히 익숙한 빅테크 내부고발 시나리오로 시작한 셈이죠. 전에도 적지 않은 내부고발자들이 있었고, 이들은 회사가 홍보하는 것에 비해 안전성과 같은 가치를 사업 기회 대비 추구하지 않는다는 것을 드러내왔습니다. 그렇다면 AI 기업들이 부르짖는 자율규제는 답이 아닐 수도 있겠죠.

챗GPT가 등장했을 때, 어른들은 학생들이 학교 숙제를 AI에게 대신 맡긴 후 제출하여 결국 교육이 제대로 이뤄지지 않는 것을 걱정했습니다. 물론 우려는 여전히 유효하지만 그 범위는 교실과 강의실을 넘어 실험실의 교수와 연구자들로 넓어지고 있습니다.
최근 AI가 생성한 말도 안되는 일러스트레이션을 담은 논문이 소셜미디어에서 논란을 불러일으켰고, 끝내 철회되었습니다. 그렇지 않아도 동료평가(peer review) 방식으로 이뤄지는 논문의 게재 여부 결정 과정에 대한 불신이 커지던 참인데요. 논문 심사조차 AI에게 맡기는 사람들이 있는 것 아니냐는 의심까지 나오고 있습니다.

황우석 덕분에 우리는 논문 이미지 조작 문제가 예전부터 있었던 문제임을 알고 있습니다. 하지만 최근 다양한 AI 도구가 과학 연구 현장에 도입되면서 연구자들이 갈수록 AI를 예언자, 대리인, 분석가, 심판자로 여기면서까지 거리낌없이 사용한다는 지적도 나옵니다. 연구실에 AI를 들여 보다 효율적으로 더 많은 지식을 생산하지만, 동시에 역설적으로 그것을 이해하는 사람이 줄어드는 건 아닐지 고민되는 지점입니다.

지난주 소개한 일론 머스크의 오픈AI 고소로 시작된 소송전이 점입가경입니다. 머스크는 늘 그래왔듯 X를 통해 공격을 이어가고 있고, 오픈AI 역시 공식 블로그에 창립 이래 머스크와 나눈 일부 이메일 전문 공개까지도 불사하며 맞서는 형국입니다.

‘비영리 연구소에 투자했는데 이윤 추구 기업으로 변질됐다’는 머스크 주장에 반박하기 위해 오픈AI는 머스크야말로 영리 법인의 필요성을 강조하며 수차례 관련 제안을 건넸다고 밝혔습니다. 또한 오픈AI의 사명이 오픈소스화를 염두에 둔 게 아니라 모두에게 유익한 AI를 의미하며 머스크 역시 이에 동의했다고 강조했죠.
보통 논쟁은 입장차에 주목하게 되지만, 오픈AI의 응답은 이들의 생각이 얼마나 일치했는지를 드러냅니다. 전 인류에 기여할 인공일반지능(AGI)을 만들겠다는 사명과 관련 수사로 둘러쌌지만, 머스크와 오픈AI 모두 결국 구글 딥마인드에 대항할 회사를 만들기 위해 어떻게 돈을 끌어올 것인지, 또 그에 따른 지분을 두고 다툰 것이죠. 그 결과는요? 오픈AI는 마이크로소프트의 등에 올라탐과 동시에 닫혔고, AI의 미래는 빅테크 기업의 손에 달린 모습입니다.