흔히 테크놀로지의 진보가 도덕적 혜택을 가져올 거라고 가정합니다만 철로는 아무런 혜택도 가져오지 않았습니다. 인터넷도 그러겠죠.
—줄리언 반스, <우연은 비켜가지 않는다>

AI 윤리 뉴스 브리프

2024년 2월 넷째 주
by 🥨채원

1.혐오할 자유라는 모순

• 트럼프 행정부의 취임에 맞춰 실리콘 밸리의 많은 테크 기업들이 발빠르게 다양성 정책을 폐기하고, 커뮤니티 가이드라인을 폐기하거나 수정하는 행보를 보이고 있습니다. 특히 팩트 체킹을 ‘전면 철폐’하며 혐오 표현 또한 규제하지 않겠다는 메타의 입장이 전세계에서 큰 반향을 일으키기도 했습니다.
• 이런 흐름에 편승하듯 오픈AI에서는 자사의 모델들이 민감한 주제를 다루는 것을 피하지 않을 것이며, 여러 관점을 검열하지 않겠다는 입장을 내놓았습니다. 또한 이것이 다양한 생각을 갖고, 듣고, 또 토론할 수 있는 “지적 자유”를 위한 조치라고 이야기했습니다. 이런 자유가 기존에는 없었던 것일까요?
• “표현의 자유”라는 이름으로 가해지는 폭력이 이미 온라인과 오프라인에서 각종 공격에 노출된 소수자를 겨냥한다는 것은 자명합니다. 표현의 자유는 혐오할 자유가 아니며, 자유는 방종이 아닙니다. 더불어 살아가는 민주주의 사회에서 어떤 ‘검열’은 모두의 안전을 위해 필요하다는 것을 우리는 이미 잘 알고 있습니다.
• 우리는 마트에서 무언가 구매할 때 매번 자세히 각각의 물건에 대해 따로 조사하지 않습니다. 마트에서 파는 화학약품이 가습기의 세균을 죽일지라도 나의 신체에는 무해하다는 믿음, 보다 구체적으로는 이런 화학 약품이 슈퍼에 팔리기까지 거쳤을 수많은 ‘검열’과 사회적 절차들을 믿기 때문에, 마트에서 파는 여러 상품을 ‘자유롭게’ 선택할 수 있는 것입니다. 그리고 이러한 ‘검열’ 장치들이 제대로 작동하지 않았을 때 어떤 사회적 참사로 이어지는지를 우리는 반복적으로 겪어야 했습니다.
• 결국 혐오할 자유란 검증되지 않은 화학약품을 구매할 자유, 안전하지 않은 교통수단에 탑승할 자유와 비슷하게 들립니다. 표현의 자유는 모두가 자유롭게 의사를 표현할 수 있는 공론장을 만들려는 노력, 그리고 이러한 공론장을 위한 안전장치 없이는 성립할 수 없습니다. 누군가를 지우고 억압해야 얻을 수 있는 ‘자유’라면 그것은 민주주의 사회에서 추구하는 자유는 아닐 것입니다.

2.파리 AI 정상회담에서 (또) 빠진 것

• 오늘 브리프에서 소개해 드릴 글은 아베바 비르하네가 얼마 전 더블린 트리니티 컬리에 설립한 AI 책임성 연구소 웹페이지에 실린 글로, ‘공익을 향한 AI의 방향 전환 (Bending the arc of AI towards the public interest)’ 이라는 제목의 글입니다. 머신 러닝에 들어있는 가치들, 알고리즘적 식민주의 등 다양한 비판적 관점으로 머신 러닝을 연구하는 비르하네 교수는 얼마 전 파리에서 열린 AI 서밋에 관한 글을 내놓았습니다. 이전 뉴스레터에서도 관련한 소식을 전해드리기도 했습니다.
• 비르하네 교수는 이번 파리 회담에서 기본권과 안전, 민주주의가 직면한 위기에 대한 언급이 빠져있음을 비판하였습니다. AI가 얼마나 지구적 시장 독점에 맞물려있는지, 국가가 자행하는 감시와 군비 경쟁에 AI가 동원되는 현상에 관해서는 이야기되지 않았다는 것입니다.
• 이 외에도 저자는 여러 묵직한 질문을 던집니다. 사람들이 AI에 갖는 관심의 실체가 무엇인지, ‘공익’이란 무엇인지, 기술적 경제적 권력이 극소수의 기업에 몰려있는 오늘날의 환경에서 AI를 논한다는 것이 어떤 의미인지 등이요. 그리고 많은 테크 회사가 광고하는 것과 달리 생성형 AI는 사회에 존재하는 많은 문제들의 마술같은 해결책이 아니라, 오히려 반대로 시민사회와 정책 입안자, 학자들에게 떠넘기는 숙제에 가깝다고 비판합니다.
• 지난 몇 년간 전 세계에서 일어나고 있는 AI 골드러쉬는 그것 외에 다른 선택권이 없는 것처럼 느껴지게 합니다. 나도 모르는 사이 불가피하게도 AI와 더불어 살아가야 하는 미래를 전제하게 되는 것입니다. 우리가 선택할 수 있는 여지는 정말 남아있지 않은 걸까요? 만약 그렇다면 어떤 미래를 상상해야 할지 고민하게 되는 요즘입니다.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.