지브리 AI가 왜 모욕적인가요?

공짜인 데다 딱히 할 일이 없어 [연극] 수업에 함께했던 여성들은 ... 자신의 이야기를 연극으로 만들어 공연했다. 그러면서 두꺼운 벽처럼 느껴지던 세상에 대해 자기만의 저항 방식을 찾고 삶을 돌아보았다. 직접적인 저항도 딱히 정치적인 시도도 아니었지만, 이런 과정은 밑바닥 민중이 자신의 언어를 찾고 사회의 주체로 거듭나는 과정에서 매우 소중한 경험이 된다.

—홍명교, <사라진 나의 중국 친구에게> (빨간소금, 2021)

지브리 AI가 왜 모욕적인가요?

by 🤖아침

저는 생성형 AI를 냉소적으로 보는 편입니다. 하지만 AI 기술을 바라보는 세상의 시선은 주로 따뜻하고, 그 온도차에 기인한 심리적 균열은 이 뉴스레터를 운영하는 주된 동력입니다. 그런데 요 며칠은 공기의 온도가 다르다고 느꼈습니다. 챗지피티 최근 업데이트 후 이른바 ‘지브리 스타일’로 생성한 이미지가 쏟아져 나왔죠. 그리고 생각보다 많은 사람이 이 이미지들에 몹시 불편을 느낀 듯합니다(여느 밈 생성기처럼 즐겁게 이용하는 사람이 더 많겠지만요).

‘지브리 AI’를 계기로, AI 기술을 향한 서늘한 마음의 고백을 타임라인에서 쉽사리 접하고 있습니다. 물론 제 타임라인이란 게 세상의 온도를 읽을 만한 대표성을 띠지는 않겠지만, 그렇다고 평소에 AI 비판이 자주 등장하는 곳은 아니거든요. 그러니까 무언가 변한 것 같긴 합니다. 그게 뭔지 궁금해서 이 사람 저 사람 붙잡고 물어보고 있습니다.

왜 사람들은 챗지피티로 만든 지브리 스타일 이미지에 화를 내는 걸까요?

아, 화낼 일이 아니라는 건 아닙니다. 지브리 풍의 이미지를 생성할 수 있다는 것은 아마도 지브리 작품 원본 이미지를 훈련 데이터로 활용했다는 걸 뜻하고, 지브리 스튜디오가 그런 식의 이용을 허락했다고 알려진 바 없으니 아마 오픈에이아이 측이 무단 이용했으리라 추측할 수 있습니다. 지브리 측이 막대한 노력을 통해 고유한 스타일로 정립한 창작물을 동의 없이 활용해 그 창작물과 유사한 이미지 제작에 쓰이는 도구를 만든 셈이죠. 그래놓고는 초기 홍보 메시지로 대놓고 ‘지브리 스타일’ 이미지를 생성해보라고 권유하기까지 했으니, 뻔뻔하다는 생각이 들 법도 합니다.

새로운 현상이 아닙니다. 딥러닝 기반 AI 기술 개발은 데이터를 대량으로 활용하며, 원작자에게 보상은커녕 사용 승낙을 받는 경우도 드물죠. 이렇게 만들어진 기술이 테크기업에게는 이익을 주는 반면 (예컨대 이미지 생성 AI 등장으로 일러스트 단가가 낮아지는 등) 해당 영역 종사자의 처지를 위협하는 방향으로 활용되는 문제 또한 지속적으로 제기되어 왔습니다. 심지어 이번 챗지피티 업데이트 이전에도 ‘지브리 스타일’ 이미지 생성 모델은 인터넷에서 비교적 쉽게 구할 수 있었습니다.

그런데도 이번 일은 어딘가 다르게 느껴집니다. 말하자면 무엇인가 훼손당했다는 감각, 일종의 모욕감을 많은 이가 경험하는 것 같습니다. 어디서 오는 감각인 걸까요. 지브리의 장인정신을 인스타그램 밈으로 전락시켜서. AI 활용 창작에 부정적인 의견을 피력한 바 있는 미야자키 하야오를 이미지 생성 AI의 홍보 포인트로 활용해서. (미국의 막강한 기업인) ‘디즈니 스타일’이 아니라 ‘지브리 스타일’을 내세워서. 오픈에이아이가 떼돈을 버는 와중에 지브리나 다른 창작자에게는 한푼도 기여하지 않아서. 집단학살을 자행하는 이스라엘군이 너무도 지브리 밈을 반가워해서.

미처 다 정리 못한 생각을 쥐고, 독자 여러분께도 묻습니다. ‘지브리 스타일’ AI 이미지가 불편하다고 느끼셨나요? 그렇다면 그 불편함의 지점은 어떤 것인가요? 기존의 다른 AI 관련 사례와 이번 일이 다르게 다가왔다면, 그 차이는 무엇인가요? 여러분의 이야기가 궁금합니다. 나눠주신 이야기는 후속 글에서 정리하고자 하니 아래 버튼을 눌러 짧게라도 생각 남겨주시면 감사하겠습니다.