여성들의 삶의 역사적 구체성은, 의식적이든 아니든, 문화적 독백을 행하려는 자아도취적이고 건방진 설명들을 하는 사람들에게는 언제나 문젯거리다.
—샌드라 하딩, <누구의 과학이며 누구의 지식인가>

AI 윤리 뉴스 브리프

2025년 6월 넷째주
by 🍊산디

오픈AI, 공익회사로 전환하면 뭐가 달라질까?

• 오픈AI가 영리법인으로의 전환을 추진 중입니다. 소프트뱅크가 오픈AI에 400억달러의 투자를 약속하면서 연내 영리법인 전환을 마무리해야 한다는 조건을 내세우면서 더욱 속도를 내고 있죠. 시민단체, 학계는 물론 (약간 뜬금 없지만) 일론 머스크도 오픈AI의 영리법인 전환 계획을 비판한 바 있습니다.
• 이제 오픈AI는 델라웨어 공익회사(Public Benefit Corporation, PBC)로의 전환을 추진하고 있습니다. 영리법인이 되겠다는 계획이 바뀐 것은 아닙니다. PBC 역시 영리법인이기 때문입니다. 델라웨어의 회사법상 PBC는 영리법인으로, 공익을 창출하고 책임감 있고 지속 가능한 방식으로 운영될 것을 목적으로 하는 기업입니다. PBC는 주주의 금전적 이익을 추구함과 동시에 법인의 행위로 인해 실질적으로 영향을 받는 사람들의 이익, 그리고 정관에 명시된 공익 사이에서 균형을 이루는 방식으로 운영되어야 합니다.
• xAI도 PBC입니다. 그러니 일론 머스크가 오픈AI의 PBC 전환을 반대하기는 어렵게 됐습니다. 문제는 마이크로소프트(MS)와의 관계입니다. 오픈AI가 PBC로 전환하기 위해서는 오픈AI에 10억 달러를 투자한 MS의 동의가 필요합니다. MS는 신규 법인에 대해 보다 많은 지분을 요청하고 있습니다.
• 오픈AI가 공익회사가 된다고 해서 이윤보다 공익을 우선시할 것이라는 보장은 없습니다. 법적으로는 이사회가 기업의 사명과 이윤 추구 사이에서 "균형"을 맞추기만 하면 되기 때문입니다. 그 균형이 무엇일지, 지금으로서는 예측하기 어렵습니다.
• 결국 오픈AI가 PBC로 전환하는 것은 더 많은 투자 유치를 위함입니다. 이익 상한 구조가 유지되는 상황에서는 추가 투자를 유치하기 어렵기 때문입니다. 오픈AI가 내세우는 목표는 (보다 많은 자본을 투자하여) AGI를 개발하여 인류 전체에게 혜택을 주는 것입니다.
• 거버넌스 개편 논의가 한창인 와중에 오픈AI의 리더십과 결정, 조직문화를 비판하는 아카이브가 공개되었습니다. 아카이브에는 오픈AI의 안전성 평가 프로세스 축소, 투명성과 이해상충 문제 등이 기록되어 있습니다. 아무래도 영리법인 전환 말고도 오픈AI가 개선해야 하는 거버넌스 문제가 산적한 듯 하네요.

2.딥페이크 성착취물은 피해자가 없다구요?

• BBC는 AI로 제작한 아동 성착취물이 증가함에 따라 실제 성착취 위험에 빠진 아동을 돕는 활동이 어려워지고 있는 현실을 보도했습니다. 경찰과 관련 기관들이 존재하지 않은 아동을 구하기 위해 자원을 쏟거나 또는 실제 위험에 처한 아동을 ‘가짜’라고 잘못 판단하여 구하지 않는 오류를 범하게 될 위험이 점차 커지고 있다는 것이지요.
• 전문가들은 AI를 활용한 아동 성착취물이 허위임을 식별하기 어려워진 현 상황에서 위기 아동을 돕기 위한 활동이 더욱 어려워지고 있다고 토로합니다. AI로 생성한 아동 성착취물은 구체적인 실제 피해자가 없으므로 윤리 문제가 없다는 주장에 대한 반대 사례인 샘입니다. AI 성착취물은 도움이 필요한 피해자로부터 생존의 기회를 앗아갈 수 있습니다.
• 혹자는 AI로 생성된 성착취물을 식별할 수 있는 또 다른 AI 서비스를 주문합니다. 기술로 증폭된 문제를 또 다른 기술로 바로잡으려는 것이지요. 하지만 보다 근본적인 해결책은 AI 개발과 활용에 있어 윤리적 기준이 강화되는 것일 겁니다. AI 성착취물의 생산과 유통에 가담하고 있는 플랫폼 기업의 책임을 명확히 하는 것이 좋은 출발점이 될 것입니다.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.