노동

창작 노동은요?

대선 국면에서 충분히 논의되고 있지 않은 AI 이슈 중 하나인 ‘창작노동’. AI 기술이 창작노동에 미치는 영향은 어떠하고, 대선후보들은 이에 관해 뭐라고 하고 있으며, 어떤 대안이 필요할까요?

🤖아침

28 5월 2025 — 24 min read

💌 AI 윤리 레터 응원하러 가기 💌

창작 노동은요?

by 🤖아침

오늘은 대선 국면에서 충분히 논의되고 있지 않은 AI 이슈 중 하나인 ‘창작노동’을 다룹니다. AI 기술이 창작노동에 미치는 영향은 어떠하고, 대선후보들은 이에 관해 뭐라고 하고 있으며, 어떤 대안이 필요한지 살펴볼게요.

생성형 AI가 창작에 미치는 악영향

우선 Jiang et al.의 2023년 논문 <AI 예술이 예술가에게 미치는 영향>(AI Art and its Impact on Artists)을 통해 생성형 AI 시스템(특히 이미지 생성기)이 창작자에게 입히는 피해 유형을 훑어보겠습니다. 논문에서는 크게 경제적 손실, 위작/평판의 문제, AI 편향, 예술 생산/소비 위축 등을 지적합니다.

경제적 손실

창작은 숙련노동으로, 다년간의 연습, 관찰, 교육을 거쳐 많은 시간과 돈을 써가며 다듬어가는 과정입니다. 생성형 AI 기업은 창작물을 보상 없이 가져다 쓰고, 막대한 투자금을 유치해 창작자와 시장에서 경쟁하는 제품을 만듭니다. 이 과정에서 생성형 AI 기술은 일부 AI 기업의 손에 돈과 권력을 집중시키고 전세계 창작자의 권리를 박탈합니다.

인간 창작자보다 훨씬 빠르게 그림 등을 양산하는 AI 시스템은 (비록 질적인 차이가 있더라도) 물량공세로 창작자에 대한 수요를 대체하고 있습니다. 논문이 쓰인 2023년에 이미 AI 도입에 따른 게임업계 일러스트레이터 해고가 화제가 된 바 있습니다.

AI 생성 창작물과 인간 창작물의 구별이 어려워짐에 따라 이미 업계 내 지위를 확립한 창작자에 좋은(인간을 써야 하는) 일감이 몰릴 위험이 있고, 이 때문에 작업을 인정받는 창작자의 수가 줄어들 수 있습니다(스트리밍 이후의 음악 산업에서 '롱테일'이 환상으로 드러난 것처럼요).

어쩔 수 없이 창작자가 AI 생성 도구를 창작 과정에 활용하는 경우, 다년간 숙련한 기술을 AI 생성 이미지 뒤치다꺼리에 쓰는 주체성 약화의 우려가 있습니다.

경영진 급의 창작자는 자동화 도입에 긍정적일 수 있습니다. 비록 업계 전반적으로 창작노동자의 경제적 입지가 약해지는 효과가 생기더라도, 본인 스튜디오의 일러스트레이터 노동자를 AI 생성 이미지로 대체하는 식의 선택을 하기 쉬울 수 있습니다.

점점 좁아지는 입지와 노동 조건 악화는 창작분야 자체의 진입장벽을 더욱 높여, 경제적 여유가 있는 계층만 예술 창작을 영위하고 사회적 소수자나 식구를 부양해야 하는 이들의 창작 활동을 저해할 것이라고 논문은 경고합니다.

창작 생태계 위축

생성형 AI 시스템으로 인한 일자리 대체 우려는 창작 분야 전망을 어둡게 하고, 이로 인해 지망생들의 진입이 감소할 수 있습니다.

또 창작자가 자기 작업을 노출하면 AI 데이터로 도용될 위험이 커짐에 따라 작업 노출을 기피하면 더욱 경제적으로 열악해질 위험이 생기는 문제와 함께, 공유 문화 및 서로 배우는 공동체적 순환이 쇠퇴할 수 있습니다.

위작 문제와 편향

생성형 AI 시스템은 막대한 양의 데이터를 활용하고 그중에는 저작권을 보호받는 창작물도 다수 포함되며 원본과 굉장히 유사한 이미지를 생성해내는 것도 가능합니다. 즉 원작자의 동의 없이 '원작자 느낌의' 창작물을 생성할 수 있는 것입니다. 예컨대 지브리처럼 특정 창작자 스타일의 이미지를 제공하는 상업 서비스도, 2023년에 이미 존재했습니다.

다수의 창작자는 이런 도구로 인해 자신이 침범받는 느낌을 호소하고 자신의 평판에 피해가 간다고 이야기한 바 있습니다. 특히 모방 생성물을 악의적으로 활용할 때 더욱 문제가 되는데요. 만화가 사라 앤더슨은 인종학살을 옹호하는 등 네오나치식 주장을 펼치는 모작이 우익 커뮤니티에서 유행하며 고통받았습니다. (최근 트럼프나 IDF가 지브리 스타일 이미지를 재빠르게 활용한 것이 오버랩되는 장면입니다.)

논문은 그밖에 생성형 AI 시스템이 편견과 헤게모니적 시선을 재생산하고 소수적 관점을 지우는 효과 역시 악영향으로 꼽고 있습니다.

Shady Sharify / https://betterimagesofai.org / https://creativecommons.org/licenses/by/4.0/

대선 국면의 AI와 창작노동 논의

이 중 경제적 손실, 즉 AI 기업이 저작물을 무단으로 이용하여 창작자의 일자리를 대체하는 제품을 만드는 문제를 집중적으로 살펴볼게요. 주요 대선 후보 네 명은 여기에 관해 어떤 입장을 내놓고 있을까요?

우선, 공식 정책 문서라고 할 만한 10대 공약에는 AI와 창작자 권리에 관한 언급은 없습니다. 대신 언론 보도 및 시민단체 질의 등을 통해 저작권 등 일부 의제에 관한 입장을 어느 정도 확인 가능하고, 권영국 후보의 경우에는 별도로 발표한 AI 공약에서 관련 내용을 확인할 수 있습니다.

이재명 후보는 10대 공약에서 AI 산업과 콘텐츠 산업을 모두 강조했는데, 두 분야의 교차 지점에 관한 발언을 콘텐츠 제작자 간담회 보도에서 찾아볼 수 있습니다. AI 업체의 저작물 무단 활용을 지적하는 참석자 발언에 대해 "정치가 해야 할 일은 '한계를 설정하는 것'", "AI의 학습·훈련 재료를 제한하거나 사용료를 지불하게 한다거나, (학습·훈련을) 금지한다든지 이런 게 있을 수 있다", 다만 "AI 윤리를 설정해야 한다는 말은 많이 하는데, 담장을 온 세상에 다 칠 수는 없다"라고 답변한 내용입니다. 학습데이터 관련 규제 가능성을 열어두되, 확실한 방안을 드러내지는 않은 것으로 이해할 수 있습니다.

김문수 후보 역시 AI 산업 육성을 강조했고 창작자 관련 언급은 찾기 어렵습니다. 나중에 제출한 선거공약서에서 언급한 “AI 콘텐츠 규제 자유 특구”가 그나마 관련 있어 보이는데, 구체적으로 무슨 내용인지까지는 파악하기 어려웠습니다. 한국기자협회가 AI 학습 데이터로서 뉴스 저작권 문제에 관해 질의하자 “’언론사의 저작권은 당연히 인정’돼야 하고 ‘AI 업계 어려움도 해결해야 할 문제’라며 상생을 위한 저작권법 개선방안 검토를 제안”했다고 합니다.

이준석 후보도 위 한국기자협회 질의에 대해 “’AI 기술 발전을 위해 일정 수준의 데이터 접근은 보장돼야 하지만 동시에 창작자의 권리를 보호하기 위한 제도적 장치도 반드시 병행’돼야 한다며 정책적 기준 마련, 상생의 생태계 조성 등을 거론”했다고 합니다. 다만 어떤 제도적 장치를 말하는 것인지는 분명하지 않습니다.

이준석 후보는 기업이 자유롭게 데이터를 활용할 수 있도록 하는 저작권 규제 완화가 필요하다는 입장을 인터뷰 등에서 여러 번 피력했습니다. 또한 AI 학습에 활용하는 저작물의 ‘공정 이용(Fair Use)’을 강조했는데 독특하게 “AI 학습 데이터를 생산하는 주체에 기업이 공정한 이용 단가를 지불하게 하는 것”이 공정 이용이라고 발언한 바 있습니다. 일반적으로 ‘공정 이용’은 특정 상황에 한해서 저작권자의 동의 없이 저작물을 이용할 수 있게 허용하는 원칙을 가리키며, 이준석 후보의 해석과는 거리가 있는 개념입니다.

권영국 후보는 AI 공약, 특히 창작/콘텐츠 노동 관련해서 다른 후보들에 비해 비교적 구체적인 제안을 하고 있습니다. 창작 노동자가 “AI로 인해 큰 위협을 받고 있는” 상황을 직접 언급하고, “창작자 동의 없이 인공지능 학습에 창작물을 사용하지 못하도록 하고, 적절한 보상을 담보하는 AI의 창작물 사용 가이드라인과 공공 플랫폼을 마련”하는 공약과 함께 “AI 생성 산출물의 표기 의무화”와 “창작자의 저작권·저작인격권을 침해하는 인공지능 산출물에 대해서는 법적·기술적 대응책”을 이야기하고 있습니다.

창작물 사용 가이드라인 및 보상은 다른 후보들도 원론적으로는 언급하고 있지만, 나머지 공약은 내용과 방향성 측면에서 한결 세부적인 차별점으로 보입니다. AI 도입 후 “남은 노동자들이 AI의 ‘자투리 노동’을 전가”당하는 문제를 지적한 부분도 마찬가지입니다.

정책적(+담론적)으로 필요한 접근

주요 전선: 저작권법

창작노동을 다루지 않은 후보도 저작권 관련 언급은 확인되는 데서 드러나듯, 생성형 AI 기술과 창작자 권리의 관계에 있어 큰 쟁점은 저작권입니다. 기업이 AI 모델을 만들 때 활용한 데이터에 저작물이 대량 포함되어 있는데, 이러한 활용이 원저작자의 권리를 침해하는지를 따지는 문제죠. 창작자 입장에서는 저작물을 상업 서비스 제작에 활용한다는 점에서 저작권을 침해당했다고 볼 수 있지만, 이미 저작물을 활용해 서비스를 운영하고 있는 AI 기업들은 AI 학습이 ‘공정이용’에 해당한다고 맞서고 있습니다. 해석의 기준이 아직 명확하지 않아, 오픈AI, 스태빌리티AI 등 생성형 AI 기업을 상대로 저작권 침해 소송이 다수 진행 중입니다.

법률DB 플랫폼 웨스트로(Westlaw)를 운영하는 톰슨 로이터스(Thomson Reuters)가 법률 AI 스타트업 로스 인텔리전스(Ross Intelligence)를 상대로 2020년 제기한 소송은 ‘최초의 AI 저작권 소송’으로 알려져 있습니다. 올해 2월 판결에서 재판부는 피고측의 공정이용 주장을 기각하고 저작권 침해를 인정했는데요. 향후 AI 저작권 논의에 있어 중요한 참고사례가 될 것 같습니다.

이번달 초 미국 저작권청에서 발표한 “저작권과 인공지능” 3차 보고서 “생성형 인공지능 학습”편 사전공개본에서도 AI 학습용으로 저작물을 대규모, 상업적으로 활용하여 원작 시장과 경쟁하는 행위는 공정이용으로 보기 어려울 것이라는 입장을 낸 바 있습니다. 다만 해당 보고서 공개 직후 트럼프가 저작권청장을 해임하여, 저작권청이 이러한 기조를 계속 유지할지 다소 불확실해졌습니다.

한편 이러한 저작권법상의 불확실성을 해소하기 위해 정책/법제화를 하려는 움직임도 있습니다. AI 산업 육성을 우선시하는 관점에서 주로 제시되는 방안은 TDM 면책규정입니다(Text and Data Mining: 대규모 데이터, 예컨대 글이나 이미지 등에서 데이터 패턴을 자동으로 분석하는 기법. 생성형 AI 학습 과정에서 꼭 필요한 단계). 보통 TDM은 비상업적 목적의 경우 저작권 예외가 적용되는데, 이를 상업적 AI 학습에도 적용하려는 것입니다. 다시 말해 상업적 AI 학습용 저작물 활용을 공정이용으로 전면 인정, 허용하는 방안으로, 대표적으로 일본이 이러한 면책규정을 적용하고 있습니다.

반면 저작권자의 권익을 강조하는 입장에서는 권리자의 명시적 동의가 있을 때만 활용을 허락하는, 라이선싱 방식을 제시합니다. 이른바 옵트인(opt-in) 방식입니다. 기존 저작권 체계가 보장하는 권리를 계속 보장하라는 것으로도 볼 수 있습니다. AI 업계는 옵트인 방식을 선호하지 않죠. “AI 학습에 저작물 활용시 허락을 구해야 한다면 AI 산업이 존속되기 힘들다”는 발언이 공공연하게 나오기도 하는데요. 이에 대해 예술가 겸 활동가 카를라 오르티스는 “간단한 법을 지키면서 사업 운영이 안 된다면 당신이 하는 일은 사업이 아니라 사기”라고 일침을 놓습니다.

AI 학습을 기본적으로 묵인하되, 명시적으로 거부할 경우 활용하지 못하도록 하는 옵트아웃(opt-out) 모델도 있습니다. robots.txt 등 웹사이트 메타정보를 통해 AI 크롤링을 거부하거나 “AI 학습 금지”를 명시하는 언론 기사, 일부 소셜 플랫폼의 개인정보 설정에 있는 AI 학습 거부 설정 등이 이에 해당하는 장치입니다. 학습용 데이터셋 활용 거부를 대행해주는 Have I Been Trained? 같은 서비스도 마찬가지고요. 법제도가 저작물 활용 가능 여부를 명확히 판단하지 못하고 있는 지금의 상황에서 비교적 많은 이해관계자들이 취하고 있는 이 접근은 AI 데이터 거버넌스의 현주소를 보여주기도 합니다.

창작자 관점에서의 정책제언

논문은 미국 의상디자이너조합, 스페인어권 작가 및 활동가 단체인 아르테 에스 에티카(Arte es Ética) 등의 입장을 종합하여 다음과 같은 정책제안을 제시합니다.

AI 생성물은 참고용으로만 활용을 허락하고, 100% (혹은 일정 수준 이상) AI로 생성한 작업물을 창작 산업에서의 최종 결과물로 활용하는 것을 금지하는 입법: AI를 매개로 한 일자리 대체에 대한 안전장치
창작자의 명시적 동의가 있을 때만 AI 학습 활용 허락, 학습데이터가 원작자 동의를 받았다는 것을 확인할 수 있는 탐지/필터 알고리즘 도입
AI 생성물에 AI로 만들었다는 것을 드러내는 워터마크/디지털 서명을 부여하여 메타데이터 공개 의무화
학습데이터 공개 의무화: 영업비밀 사유로 일반에 공개가 어렵다면 원작자 동의 여부를 검증할 수 있는 기구 설립
AI 감사(auditing), 보고(reporting), 투명성 장치를 제도화하고 특히 분야별(ex. 시각예술)로 구체화: 창작자 개인에 피해 입증 책임이 전가되는 문제를 개선하기 위한 과제

논문은 또한 묻습니다. 저명한 AI 연구자들이 자신의 지식을 동원해서 기업을 위해 예술가들의 권리를 침해하는 현 상황을 타개하려면 어떻게 해야 할까요? 법규제가 통과되는 데에도 시간이 걸리고, 빠르게 변화하는 업계 상황에서 이같은 일은 반복될 여지가 있으니 말입니다. 이에 관해서는 다음과 같은 제언을 합니다.

기업 이해관계에서 자유로운 정부 R&D 펀딩: AI 연구가 군산학복합체에만 복무하지 않도록 하여 학문의 다양성 확보
기술과 관련된 권력 작용을 인식하고, 공동체의 이익에 도움이 되는 연구 및 교육 활동 추구 (예: 창작자의 그림을 보호하는 Glaze 연구, AI 윤리 교육 등)

나가며

이게 그렇게 중요한 사안일까요. 기술환경이 변화하면 창작의 방식과 창작노동의 형태도 당연히 달라지는 것이고, 창작자들이 여기 적응해야 하는 문제 아닐까요? 물론 그렇게 볼 수도 있습니다. 생성형 AI와 같은 새로운 기술의 등장이 또다른 유형의 창작과 문화산업을 촉발할지 모릅니다. 하지만 기대와 전망 속에서도, 현재 노동하며 삶을 살아가고 있는 이들에게 무슨 일이 일어나는지 간과해서는 안 되겠습니다.

앞서 지적한 것처럼 생성형 AI 시스템은 창작자의 저작물을 무단으로 활용하여 창작자와 시장에서 경쟁함으로써 창작자를 경제적으로 위협합니다. 창작 과정에 생성형 AI 도구를 활용하는 과정에서 탈숙련화의 우려 또한 있습니다. 이렇게 볼 때 생성형 AI 기술은 창작노동에 있어 예술 생산과 소비 과정으로부터 창작자라는 인간 요소를 걷어내고 자동화 시스템을 통해 그 역할을 대체하고자 하는 기술산업적 기획으로 이해할 수 있습니다. 그런 점에서 플랫폼 노동으로 대표되는 노동의 불안정화 추세와도 맞닿아 있습니다.

이러한 과정은 역사적으로 무수히 일어났던 일이면서, AI 기술을 계기로 분야를 막론하고 새로이 발생할 예정입니다. 이미 상담원, 개발자 등 여러 분야에서 유사한 현상이 일어나고 있습니다. 창작노동에서 두드러지는 현상인 동시에, 창작노동만의 일이 아니기도 합니다. 여기에 관해 정치는 어떤 답을 제시할 수 있을까요? 비단 이번 선거 기간뿐만 아니라, 새로운 정권이 들어서도 계속 논의해야 하는 문제입니다.

저작권을 넘어서

저작권은 중요한 쟁점이지만, 저작권 위반 여부를 판단하고 TDM 면책이냐 옵트인이냐를 선택하는 것에서 논의가 종료되어서는 안 됩니다. 이재명 후보의 “온 세상에 담장을 다 칠 수는 없다”는 발언은 그런 뜻에서 일리 있습니다. 제아무리 강력한 옵트인 모델을 도입한다 해도 그것만으로 창작자의 권익을 지킬 수 있는 것은 아닙니다. 일자리 대체, AI 시스템의 투명성, (허위정보와 연결되는) 위작/모방의 문제, 학문과 교육의 다양성 등 여러 과제가 남아 있습니다. 이를 정의롭게 해결하는 방안을 모색해야 합니다.

저작권을 넘어서는 AI와 창작노동 논의를 위해 ‘데이터 커먼즈’ 개념이 유용할 것 같습니다. 이광석은 “AI 시민 권리 확장을 위하여”에서 현재의 생성형 AI 산업을, 인류가 공동으로 생산한 지식에서 파생되는 가치를 기업이 포획하는 과정으로 규정합니다. 이에 맞서 “인류가 쌓은 초거대 데이터 자원[…]을 통해 이익을 취하는 AI 기업들이 시민들에게 사회적 보상책을 마련”하고, “인공지능을 매개한 데이터와 정보 수탈과 포획의 신생 질서에 대항해 시민사회가 나서서 시민 데이터 커먼즈 자산에 대한 집합적 권리 행사 방법을 모색”할 것을 촉구합니다.

일부 AI 기업이 주장하는 ‘생성형 AI를 통한 창작/예술의 민주화’는 대개 ‘AI 서비스를 더 많은 사람에게 보급한다’ 이상의 의미를 갖지 못합니다. 이 과정에서 발생하는 이익은 기업에 귀속되고요. 그 대신, ‘공통의 것’을 학습해서 만들어낸 기술 시스템과 그 생성물에 대한 권리를 우리가 함께 누리는 커먼즈적 비전을 통해 보다 진정한 의미에서 ‘창작의 민주화’가 가능할 수 있을까요?