믿기지 않지만 이게 실화라는 걸 먼저 인정하자.

—정혜승, <정부가 없다>

오픈AI 드라마 다르게 읽기

by. 🤖아침

정신없이 진행된 오픈AI 드라마의 줄거리는 이렇게 요약할 수 있을 듯합니다.

AI의 인류에 대한 위협 통제를 강조하는 진영(일리야 수츠케버 및 일부 이사진)이 기술 개발을 가속하고 사업을 확장하려는 진영(샘 올트먼 등)에 제동을 가하려 했고, 그 시도는 보기 좋게 실패했다. 결과적으로 올트먼의 복귀와 함께 개발 가속주의 진영의 힘이 더 커지는데...

1. 여성 지우기
이 드라마에서 여성은 좀처럼 보이지 않습니다. 올트먼 해임 후 임시 CEO로 임명된 미라 무라티는 딱 하루 뒤 (남성인) 에밋 시어에게 자리를 넘겼습니다. 시어는 '여성의 40~60%는 강간/비동의 성관계에 대한 환상을 갖고 있는 것으로 보인다'는 글을 트위터에 쓴 적 있는 인물인데요.

한편 올트먼의 여동생 애니는 샘이 자신에게 "성적, 신체적, 정신적, 언어적, 재정적 학대"를 가했다고 주장한 바 있습니다.

오픈AI가 올트먼의 복귀를 예고하며 새로 구성한 이사진에는 기존 여성 이사들이 전부 빠졌습니다. 신규 이사 중 한 명인 래리 서머스 전 미국 재무장관은 하버드 총장 재임 당시 "여성이 과학과 수학에서 성공하지 못하는 이유는 유전학적으로 열등하기 때문"이라는 발언을 반복하다 사임한 인물입니다.

넷플릭스가 이 이야기를 영화로 제작한다면 아마도 벡델 테스트는 통과하기 어려워 보여요.

2. 갈수록 닫혀 가는 ‘오픈'AI
결과적으로 오픈AI에 기술자본 권력이 더욱 집중되고, 그에 대한 통제는 한층 요원해졌습니다. 오픈AI는 비영리 기구가 영리 자회사를 관리하는 구조를 통해 이윤에 구애받지 않고 '인류'에 기여하겠다는 미션을 강조해 왔지만, 올트먼 해임 후 (영리 자회사에 투자한) 마이크로소프트가 올트먼을 지지하며 취한 움직임에서 볼 수 있듯이 자본의 영향력은 막강했습니다. 이전에도 오픈AI가 '오픈'되어 있지 않다는 비판이 있었는데요. 이제 그 경향은 더욱 강해질 것으로 보입니다.

3. 최종 승자는 AI 하이프?
이번 사건을 '규제론'과 '개발론'의 대결 구도로 보는 시선도 있습니다. 틀린 말은 아니지만 이런 해석에는 한 가지 맥락에 빠져있습니다.

일리야 수츠케버 등이 강조하는 AI 규제 논리는 AI 기술의 막대한 잠재력을 인류를 파멸시킬 위협으로 상정한다는 점에서 'AGI를 빠르게 구현하여 인류 공영에 이바지한다'는 개발론과 공통 분모를 갖습니다. 즉, 두 관점 모두 1) AGI/강인공지능/초지능 등으로 표현되는 '인간을 능가하는 AI'를 기정사실화하고, 2) 딥러닝에 기반한 현재 AI 기술이 그 미래로 이어질 것이라는 믿음을 전제합니다. (혹시나 해서 덧붙이자면, 1이나 2나 현실화할 것이라는 근거는 없습니다. 일종의 신념의 영역이죠.)

그러므로 규제론과 개발론이라는 표현보다는, 종말론과 가속주의라는 용어가 더 적절할 수 있습니다. 이 두 관점은 동전의 양면과 같이 서로 의존하며 AI 하이프를 강화합니다. 오픈AI의 사내 정치가 어떻게 귀결되건 간에, AGI 종말론과 가속주의 모두 이번 사태를 계기로 굉장한 홍보 효과를 얻은 셈입니다.

종말론과 가속주의가 협력하여 만드는 AI 하이프는 부정적인 효과를 지닙니다. AI 기술 자체가 마치 불가피한 힘에 의해 만들어지는 것처럼 보이게 하고, (바로 그 기술을 만들고 있는) 기업의 역할과 책임을 은폐합니다. 또한 '인류에 대한 위협'이라는 추상적인 논의에 가려, AI가 현재 야기하고 있는 문제들을 축소합니다.

지난주 뉴스를 점령한 오픈AI 드라마의 최종 승자는 마이크로소프트였다고 이야기하곤 합니다. 저는 이 드라마의 승자가 AI 하이프였다고 봅니다.

돌아온 샘 올트먼과 겨우 돌아온 행정망

by. 🍊산디

지난 한 주간 기술과 행정의 접점에는 곱씹어 볼 많은 일이 있었습니다.

우선, 쫓겨난 샘 올트먼의 오픈AI 복귀를 다룬 5일간의 드라마가 세계인을 사로잡았습니다. 오픈AI의 거버넌스가 다시 주목받았죠. 샘 올트먼은 그간 오픈AI의 기업 지배구조가 무책임한 AI 개발을 막을 ‘방화벽’이라고 이야기해 왔습니다. 드라마가 종영한 지금, 과연 이 드라마의 다음 시즌은 어떻게 전개될까 궁금하면서도 기업의 공공연한 자율규제 약속을 어디까지 믿을 수 있는 것일지 의문스럽습니다.

무엇보다도 저는 일본 정부가 이 드라마를 어떻게 보았을지 궁금합니다. 일본 정부는 GPT-4를 행정에 도입하기로 하였고, 마이크로소프트는 행정 정보 학습을 위해 서버를 일본에 설치하기로 했었죠. 기업의 대표가 쫓겨나고 수백 명의 직원이 오픈AI를 떠나겠다고 선언할 때 일본 정부는 어떤 생각을 했을까요. 제가 서비스 도입 담당자였으면 잠도 못 자고 외신만 찾아봤을 것 같네요.

신뢰와 안전은 행정의 미덕 중 하나입니다. 정부는 다른 모든 조직체보다 더 믿을 수 있고, 안전하기 때문에 경쟁력이 있죠. 그래서 아무리 효율적이라 해도 민간 서비스 도입에 정부는 신중할 수밖에 없습니다.

그러나 믿을 수 없고 안전하지도 않은 정부라면 이야기가 다릅니다.

오픈AI의 드라마가 한창이던 17일, 행정전산망이 먹통이 되었습니다. 사흘이 지난 20일에 “모든 지방행정 및 전산서비스가 정상화되었다”던 정부의 발표 이후에도 연달아 전산 장애가 발생함에 따라 불안은 커졌습니다. 지난 25일, 마침내 지방행정전산서비스 개편 TF는 이번 행정전산망 장애가 네트워크 라우터 포트 고장으로 용량이 큰 패킷이 유실되어 발생한 것으로 사태의 원인을 밝혔습니다.

행정망 먹통 자체도 문제이지만 대응은 더욱 문제였습니다. 국민이 겪을 불안, 불신을 줄이기 위한 행동보다는, 사태의 중요성을 낮추려는 듯한 발언과디지털 플랫폼정부의 추진 성과를 발표하는 모습이 더 눈에 띄었죠.

정부는 무얼 해야 했을까요. 행정전산망 장애로 미처리된 건들은 소급 처리하겠다고 즉시 안내할 수 있었을 겁니다. (실제 소급 처리 되었습니다.) 예상 복구 시점을 안내할 수도 있었죠. 국민이 전자정부 시스템을 믿을 수 있도록 하는 조치는 얼마든지 있었습니다.

누군가가 “자리에 걸맞게 일을 잘한다”고 했을 때, 이는 업무를 논리적으로 잘 처리하는 것만 뜻하지 않습니다. 자리(position)는 일종의 정체성입니다. 자리에 걸맞게 일 잘하는 사람은 업무도 능수능란하게 하지만, 적절히 교감할 줄도 압니다. 불안해하는 사람을 안심시키고, 화가 난 사람에게 진심으로 사과하죠. 이걸 ‘적절성의 논리(logic of appropriateness)’라고 합니다. 적절성의 논리는 자신이 누구인지를 알고, 요구되는 도덕성을 드러내는 자질을 포함합니다.

이번 기회에 디지털 권리장전을 다시 찾아봤습니다. 마침 5대 원칙 중 세 번째 원칙이 신뢰와 안전이더군요. 설마 모르는 걸까 했는데, 그건 아닌가 봅니다. 그럼, 이제 무엇이 적절한 행동일지 생각해 보면 어떨까요. AI 행정을 이야기하는 시대에, 정부의 자질은 무엇이라 생각하십니까.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.