<과학>과 <정치>의 결정적인 구별을 볼 희망은 - 과거와 마찬가지로 미래에도- 전혀 없다.

—브뤼노 라투르 (황장진 역), <존재양식의 탐구>

1. 생성되는 현실 속 ‘공통감각’은?

by 🤖아침

이번 주 브리프에서는 ‘이 요청은 처리할 수 없습니다’ 따위의 제품명이 적힌 아마존 상품에 관한 이야기를 다뤘습니다. 인터넷 쇼핑과 같은 일상 영역에 AI 생성 콘텐츠가 이미 존재한다는 것을 상기시켜 주는 에피소드죠. 숏폼 영상에 사용되는 AI 성우, 생성 이미지 기반 서비스… 그 밖에도 사례는 많습니다.

생성하는 대상이 콘텐츠에 국한되는 것도 아닙니다. 다솔 님과 얘기하다 알게 된 재피(Zappy) 앱은 "찐친과 AI를 위한 메신저 및 SNS 앱"이라고 자칭하고 있는데요. 가상 인물이 피드에서 활동하고 그와 메시지를 주고받을 수도 있는, AI 챗봇과 버추얼 인플루언서가 결합한 듯한 제품입니다. 단순히 콘텐츠를 넘어 ‘관계’를 생성형으로 제공하는 시스템이자, 케이시 뉴턴 기자의 표현을 빌리면 기존에 인간 사이를 연결하던 곳에 AI가 함께 자리하는 “합성 소셜 네트워크”인 것입니다.

이런 흐름이 지속된다고 생각해 봅시다. ‘AI 친구’에 그칠 이유가 있을까요? 데이터와 연산 능력만 충분하다면 우리가 디지털 환경에서 접하는 모든 것을 생성할 수도 있겠죠. SNS의 보편화가 알고리즘에 의한 현실 경험의 ‘큐레이션’과 밀접했듯이, 추천 시스템과 결합한 생성 AI가 편재하는 시나리오에서 누군가의 현실 경험 전체가 초-개인화된 형태로 ‘합성’되는 모습도 그려집니다.

잠시 데이터, GPU, 전력소모 등의 물리적 제약을 잊어버린다면, 미리 생성해 둔 콘텐츠-현실을 서비스하는 것이 아니라 사용자 단에서 실시간으로 개인 맞춤형 현실이 합성될 수도 있겠죠. 듣는 시점에 선호하는 톤과 내용으로 생성되는 목소리, 스트리밍 시점에 좋아하는 줄거리와 연출로 생성되는 영화, 읽는 시점에 좋아하는 문체와 소식으로 생성되는 뉴스 기사.

최근 화제를 끈 상품인 핸드헬드 LLM 단말기 래빗 R1이나 바디캠 형태의 AI 핀, 스마트폰 제조사들이 힘쓰고 있는 온디바이스 AI, 비전 프로를 위시한 각종 XR 단말기 등의 사례를 떠올려볼까요. 이들 제품은 AI 기술과 신체의 인터페이싱을 더욱 긴밀하게 하여, 자동화 시스템이 필터링하고 나아가 생성하는 초개인화된 현실 경험, 이름 붙여 보자면 ‘온디맨드 현실’을 가리키는 이정표인 셈입니다.

물론 물리적 제약을 무시할 수는 없습니다. 이 길을 따라갔을 때 우리가 마주할 생성-현실-미래는 사전 생성과 실시간 생성, 추천이 적당히 조합된 무엇이겠죠. 여기에서 강조하고 싶은 것은 생성된 경험을 활용해 더욱 강력한 개인화를 추구하는 기술 산업의 추세입니다. 그 생성의 규칙을 좌우하는 것은 주로 시스템을 보유한 기업일 테고요.

지난 이십 년간 스마트폰과 소셜미디어를 사용하며 우리가 배운 것 하나는 추천시스템이라는 개인화의 엔진과 사회의 극화/분화, 나아가 ‘탈진실’ 사이의 밀접한 관계였습니다. 그렇다면 AI를 활용한 개인화 추세는 우리가 보아온 사회 분화 현상을 더욱 가속하지 않을까요? 생성 AI에 의존하는 경험은 “대상 세계와 타자에 대한 ‘공통감각(sensus communis)’을 퇴화시킨다” - 이광석 교수의 경고입니다.

우리가 함께 세계를 구성해 가는 사회적 존재라고 할 때, 우리의 존재는 어떤 공통의 경험, 사회적인 그 무엇에 대한 공유를 필요로 할 것입니다. 현실이 어떤 것이라고 어느 정도는 합의할 수 있어야 그에 기반한 논의건 행동이건 가능할 테니까요. 탈진실 경향이 민주사회에 위협적인 것도 사회적인 합의를 가능케 하는, 현실에 대한 공통 인식을 훼손하기 때문이죠.

특히 전 세계적으로 중요한 선거가 몰린 올해, 자동 생성 기술과 ‘사회적인 것’의 관계는 더욱 시급한 문제로 다가옵니다. 미국에서 이미 AI로 조 바이든 대통령의 목소리를 흉내낸 로보콜이 민주당원들에게 예비선거 불참을 독려하는 사례가 발견되었습니다. 선거운동에 딥페이크 콘텐츠를 금지한 한국 공직선거법 개정안은 이런 현상을 막는 데 충분한 조치일까요? 우리가 어떤 AI 기술을 만들고, 기술과 어떤 관계를 맺어야 할지 더욱 깊은 고민이 필요해 보입니다.

2. 23세기를 묻는 젤리 한 알 : <라스트 젤리 샷>

by 🍊산디

때는 바야흐로 AI 기술이 무르익은 23세기. AI의 위험에 대응하기 위해 조직된 윤리 위원회가 오늘도 열심히 일합니다. 윤리 위원회는 윤리원칙을 어긴 AI 로봇을 재판에 회부하여 문제가 된 AI를 제거하고, 해당 AI의 개발자의 자격 박탈 여부를 묻는 소송을 제기할 수 있습니다.

소설 속에서 세간의 이목은 천재 과학자 갈라테아와 그가 제작한 세 AI 로봇에게 쏠려있습니다. 그의 세 로봇이 다분히 의도적으로 인간에게 해를 입혔기 때문이죠. 그렇게 윤리 위원회와 갈라테아의 법정 드라마가 펼쳐지는데… 2023 한국과학문학상 장편 대상에 빛나는, 청예 작가님의 <라스트 젤리 샷> 이야기입니다.

소설 속에서 윤리 위원회는 막대한 인명피해를 초래한 무인 항공기 사고를 무마해준 것을 계기로 권력을 쥐게 됩니다. 윤리 위원회가 큰 권한을 갖는 세계라니. 21세기를 살아가는 윤리 담당자들의 처지를 생각한다면 이것이야말로 SF일지 모르겠어요. 오늘날 AI 윤리 담당자들이 과로와 번아웃, 해고는 잘 알려진 사실이죠.

윤리 위원회의 법정은 공명정대한 AI 천칭에 의해 판결이 이루어집니다. AI 천칭은 윤리 위원회가 수립한 윤리강령에 따라 잘잘못을 가립니다. 그런데 윤리강령의 내용이 좀... 독특합니다. 윤리강령에 따르면 AI 로봇, 즉 ‘인봇’은 다음의 세 가지를 지켜야 합니다.

1. 인봇은 사람의 통제가 가능해야 한다.
2. 인봇은 주입하지 않은 감정을 느껴서는 안 된다.
3. 인봇은 스스로 자아를 생성해서는 안 된다.

<라스트 젤리 샷>의 윤리강령은 아이작 아시모프의 로봇 3원칙이나 플로리디의 인포스피어 윤리 원칙 등과 비교하면, 뭐랄까요, 인간의 ‘고유성’을 지키기 위한 욕망에 가깝습니다. 작가가 생각한, 인간이 고집하는 자신의 정체성이 담겨있죠. 소설 속 윤리 위원회는 인간이 되고 싶어서 선을 넘는 AI 로봇을 처벌하는 기구인 셈입니다.

아쉽게도 작가는 23세기의 AI 윤리강령이 어떤 과정을 거쳐 만들어졌는지 다루지 않습니다. 기술 윤리를 논하는 입장에서는 이게 더 궁금한데 말이죠. 다만 확신할 수 있는 건 23세기의 AI 윤리강령은 21세기의 AI 윤리강령에서 출발했을 거라는 사실입니다.

어떤 기술도 ‘본질적으로’ 특정 사회적 조건을 요구하지는 않습니다. 하지만 랭던 위너가 이야기한 것처럼 일단 기술에 대한 수용이 시작되면, 예를 들어 원자력 발전소가 지어지고 가동되면, 기술의 요구에 사회가 적응해야 한다는 주장들이 “봄날 꽃봉오리처럼 터져 나오기 시작”합니다.

그러니 어떤 기술을 어떻게 받아들일까 하는 최초의 논의가 중요합니다. 아직 중요한 변화가 일어나지 않은 상태이기 때문이죠. 기술이 제시한 여러 대안들 중 하나를 우리가 고른다면, 기술은 그 선택을 따라 우리를 다른 갈림길로 인도할 겁니다. 우리는 매번 최선을 다해 하나의 선택지를 고를 것이고, 그 분화의 끝은 우리가 처음 서 있었던 그 곳에서 한참 떨어진 곳으로 이어질 거예요.

이러한 까닭에 23세기보다 21세기가 더 중요합니다. 21세기를 사는 우리가 윤리를 저울질하는 천칭의 어느 편에 젤리를 올려 둘 것인지가 23세기를 결정하기 때문이죠. 하지만 이 기술의 목적지가 어떤 곳이어야 하는지에 대한 논의는 매우 드뭅니다. 혹자는 AI가 기술 혁명을 이끌 것이라 말합니다. 하지만 진실로 기술 혁명을 이끌고 있는 것은 혁명의 목적지를 묻지 않는 “텅 빈 마음”일지도 모릅니다.

지금-여기를 사는 여러분의 저울은 어느 쪽으로 기울어 있나요? 여러분이 생각하는 기술 혁명의 목적지는 어떤 모습인지요?

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.