우리는 도구를 형성하고, 그 후에 도구가 우리를 형성한다.
— John Culkin

AI 시대 인권의 재정의: 마티아스 리스의 4세대 인권

by 🍊산디

많은 사람들이 AI 이후의 민주주의를 걱정합니다. AI의 빠르게 발전과 확산으로 자유, 평등, 민주주의와 같은 인류의 근본 가치가 흔들리고, 의료, 교육, 행정 등 사회 전 분야에서 해야 하는 것과 하지 말아야 할 것을 기술이 처방하며, 기술 전문성이 권력을 정당화하는 기술관료주의로의 흐름이 가속화되는 것은 아닐지 우려의 목소리가 들립니다. 🦜AI 윤리 레터는 이러한 우려가 현실로 구체화되는 사례들을 꾸준히 소개해드리고 있습니다.

하지만 기술 발전이 곧 민주주의의 후퇴, 또는 기술관료주의로 이어지는 것은 아닙니다. 기술은 분명 우리에게 영향을 미치고 있습니다만, 우리 사회의 모습을 결정하지는 않습니다. 그러니 비관주의에 사로잡힐 필요는 없습니다. 다만 기술을 비판적으로 바라보고, 그간 받아들여져 왔던 인류 보편의 권리가 어떤 영향을 받고 있는지 재점검하는 작업이 필요할 뿐입니다. AI 이후의 세상을 사는 우리에게 필요한 권리는 무엇일까요?

마티아스 리스는 <AI 시대의 정치이론(Political Theory of Digital Age)>에서 디지털 시대에 맞춰 새로운 인권 개념을 제안합니다.

마티아스 리스에 따르면 1970년대 이후 세계 전반에서 보편적으로 통용되는 인권은 다음과 같이 3세대를 거치며 발전해 왔습니다.

• 1세대: 시민적∙정치적 권리
• 2세대: 경제적∙사회적∙문화적 권리
• 3세대: 집단적∙연대적 권리

그는 인권 개념이 디지털 시대에 맞춰 변화할 필요가 있다고 주장합니다. 변화한 시대에 걸맞은 새로운 인권 즉, 4세대 인권이 필요하는 것이죠. 그는 오늘날의 국가들이

• 디지털 기술을 활용해 감시 국가를 구축하거나(ex. 중국)
• 기술의 가능성을 모두 민간 기업에 맡겨 시민이 상품화되는 감시 자본주의를 방관하거나(ex. 미국)
• 또는 기술의 가능성 특히 거버넌스의 개선 가능성을 아주 소심하게만 받아들이는 등(ex. 독일)

디지털 시대 인권이 고양되기 위해 필요한 작업을 수행하고 있지 않다고 비판합니다.

그렇다면 그가 이야기하는 4세대 인권은 무엇일까요? 마티아스 리스는 디지털 시대의 핵심을 지식과 정보로 보고 논지를 전개합니다. 모든 인간은 지식을 생산하고 공유하며, 이를 위해 진화해 왔습니다. 집단 학습은 인간 종의 특징 중 하나이죠. 게다가 디지털 기술 특히 AI는 이러한 지식, 정보의 생산, 유통, 발견, 융합에 일대 변혁을 가져오고 있습니다. 이러한 변화를 고려했을 때 그는 4세대 권리는 지식과 정보와 관련된, 인식적 권리가 포함되어야 한다고 주장합니다.

기존의 세계인권선언도 인식적 권리를 고려하고 있기는 합니다. 간섭으로부터의 자유, 명예와 평판에 대한 공격으로부터의 안전, 양심과 사상의 자유, 표현의 자유, 교육권, 문화생활에 참여하고 예술을 향유하며 과학 발전을 공유할 수 있는 권리 등이 그것입니다. 하지만 이는 데이터와 정보가 생체권력, 주권에 영향을 미치는 디지털 환경을 적극 반영하고 있지 못합니다.

인권을 재정립하는 것은 행위자들이 시대적 소명에 맞추어 책임을 다할 수 있도록 지원하고, 보다 쉽게 문제를 제기하고, 비판하고, 저항할 수 있는 환경을 만드는 작업입니다. 그리고 마티아스 리스는 인식하는 행위자로서 디지털 시대를 살아가는 인간에게 필요한 권리를 다음과 같이 제시합니다. 뒤에 나오는 권리는 앞선 권리를 포함합니다.

1. 개별 인식 주체로서의 개인을 보호할 권리

• 교육받을 권리(디지털 문해력)
• 정부와 기업은 디지털 도구가 개인의 독립적인 의사 결정 능력을 저해하기 위해 허위 사실을 조직적으로 유포되지 않도록 방지

2. 집단 인식 주체에 속하는 개인의 역할을 보호할 권리

• 문화생활에 자유롭게 참가하고, 예술을 즐기고, 과학의 발전과 혜택을 공유하는 기존의 권리를 디지털 시대에 맞게 조정
• 데이터 인식론의 설계에 참여할 수 있는 권리

3. 개별 인식 객체로서의 개인을 보호할 권리

• 개인정보보호에 대한 권리, 잊힐 권리
• 사생활에 대한 자의적인 간섭과 명예와 평판에 대한 공격으로부터 보호받을 권리 등을 합성미디어(딥페이크)의 가능성을 가진 디지털 세계에 적합하게 조정

4. 집단 인식 객체에 속하는 개인의 역할을 보호할 권리

• 수집된 데이터를 실질적으로 통제할 수 있는 권리

흥미롭게도 그는 인식의 객체와 주체를 구분할 뿐 아니라 권리의 주체로서 개인과 집단 모두를 상정합니다. 인식의 권리는 개인적 수준에 머무르지 않으며 집단적 차원에서도 데이터 인식의 설계와 통제에 참여할 수 있어야 한다는 것이죠. 이는 3세대 권리인 참정권과 유사해보이나, 디지털 시대의 주요 행위자인 기업의 의사결정에까지 권리 범위가 확대될 수 있다는 점에서 특별해 보입니다.

어떠신가요. 4세대 인권은 AI 이후를 살아가는 인류에게 필요한 권리를 모두 아우르고 있을까요? 1~3세대 인권이 미처 다루지 못한 공백을 충분히 메우고 있을까요?

멈출 수 없는 AI 활용, 기름 붓는 정부

by. 🎶소소

할리우드에서 또다시 AI 활용에 대한 논란이 일고 있습니다. 오스카 아카데미 10개 부문에 후보로 오른 영화 브루탈리스트(The Brutalist)가 활용한 AI의 적절성에 대한 논쟁입니다. 이 저예산 독립영화는 주연 배우 에이드리언 브로디(Adrien Brody)의 헝가리어 방언을 자연스럽게 하기 위해 AI 음성 기술 'Respeecher'를 활용했습니다. 이는 작품의 완성도를 높이면서도 후반 작업 기간을 단축하기 위한 실용적 선택이었다고 제작진은 설명합니다.

감독 브래디 코베(Brady Corbet)은 "배우들의 연기는 다르지 않으며, AI는 단순히 헝가리어 발음을 다듬는 데만 사용되었다"고 강조했지만, 대중들의 반응은 상반됩니다. 한편에서는 "AI가 또 하나의 인간의 직업을 위협하는 것 아니냐"는 우려가, 다른 한편에서는 "AI로 작품의 완성도를 높이는 것이 무엇이 문제냐"며 AI를 새로운 작업 도구로 보는 옹호의 목소리가 있습니다. 2023년 할리우드 파업 이후 영화 제작에 AI를 사용하는 것은 업계에서 매우 논란이 되는 주제입니다. 이 영화 제작에 AI를 사용했다는 사실이 오스카 아카데미 수상 가능성에도 상당한 영향을 미칠 수 있다고 합니다.

이번 논란은 처음 생성형 AI로 만든 예술품이 미술경진대회에 나왔던 사건을 떠올리게 합니다. 당시 “생성형 AI로 만든 그림을 예술로 인정할 것이냐?”라는 엄청난 논의가 있었습니다. 그러나 얼마 안 있어 AI로 생성된 예술작품이 폭발적으로 증가했습니다. 최근 부천국제판타스틱 영화제는 AI 영화 부문을 신설하는 등 생성 AI 예술은 하나의 장르로 인정받기 시작했습니다.

AI는 점점 더 다양한 산업 전반에 활용되고 있습니다. 더 빠르고, 더 효율적인 것을 추구하는 현대 산업 사회에서 AI의 활용은 필연적으로 보입니다. 기술의 발전과 그 활용을 인위적으로 막는 것은 마치 디지털 카메라를 거부하고 필름 카메라만을 고집하는 것처럼 어려운 일입니다. 중요한 것은 이 기술을 어떻게 윤리적이고 생산적으로 활용할 것인가 하는 점입니다.

그렇기 때문에 최근의 국제적 AI 논의 동향은 우려스럽습니다. 세계 각국은 앞다퉈 AI 기술 발전을 위한 투자를 발표하며 기술 패권 경쟁에 들어섰습니다. 지난주 파리에서 열린 AI Action Summit은 본래 AI 안전성을 논의하기 위한 자리였습니다. 그러나 프랑스의 대규모 AI 투자 선언, EU의 AI 활용 진흥 정책, 영국과 미국의 서명 불참 등이 연달아 발표되며 AI 안전성 논의는 슬그머니 뒷전으로 밀려났습니다.

정부는 AI 활용 진흥과 안전성 사이의 균형점을 찾아야 합니다. 최근 정부의 입장 변화는 이미 활활 타오르고 있는 AI 시장에 기름을 붓는 격입니다. 물론 AI 분야의 투자와 육성도 중요합니다. 하지만 AI를 어떻게 안전하게 관리할 것인지 방향성을 제시하는 것은 누군가 대체할 수 없는 정부의 역할입니다. 단순히 규제를 강화하자는 이야기가 아닙니다. 이미 우리 삶 깊숙이 들어와 있는 AI의 활용을 막기만 할 수는 없습니다. 중요한 것은 AI가 우리 사회에 미치는 영향을 면밀히 관찰하고, 필요한 안전장치를 마련하는 것입니다. 그것이 바로 시장이 아닌 정부가 해야 할 일입니다.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.