핀란드 교도소 라벨링 노역/기술을 재구상하라

정보나 데이터는 독자적으로 세계를 환히 밝히지 못한다.

—한병철, <정보의 지배>

데이터 라벨링의 혁신: 교도소 편

by 🤖아침

핀란드의 교도소에서는 재소자가 데이터 라벨링 노역을 합니다. 언어모델 훈련 데이터를 생산하는 대가로 시급 약 2천원을 받습니다. 스타트업 ‘메트로크’와 핀란드 교정청 산하 ‘스마트 교도소 프로젝트’의 협약으로 교도소 세 군데에서 재소자들이 데이터 노동을 수행할 수 있습니다.

핀란드에 데이터 노역이 도입된 것은 이번이 처음이 아닙니다. 코로나 팬데믹 이전에도 ‘바이누’라는 스타트업이 비슷한 협약을 통해 인공지능 데이터를 재소자 노역으로 수집했습니다. 창업자 간의 갈등 끝에 사업이 갑자기 어그러졌지만요.

이러한 데이터 노역을 긍정적으로 평가하는 측에서는, 인구가 적고 최저임금이 높은 핀란드에서 쉽게 구축하기 힘든 핀란드어 데이터를 확보하는 데 도움이 된다고 합니다. (다른 육체노역에 비해) 지적 자극이 되는 활동을 통해 재소자들이 미래에 걸맞은 디지털 기술을 습득할 수 있다고도 보고요. 이는 정부, 업계, 언론 등이 데이터 라벨링을 ‘누구나 손쉽고 자유롭게 할 수 있는 미래 일자리’로 소리 높여 치켜세워 온 한국에서도 익숙한 이야기입니다.

하지만 데이터 라벨링이 재소자의 사회 복귀에 정말 도움이 되는지는 미지수입니다. 특히 라벨링 노동은 “일체의 사회적 관계 없이 플랫폼이라는 온라인 공간만을 매개로” 수행된다는 점에서 더 그렇습니다. 오히려 소위 AI 혁명을 빌미로 경제적 선택지가 좁은 남반구 노동자, 난민 등에게 아웃소싱 해오던 저임금 데이터 라벨링 노동의 착취가 재소자에게까지 확대되었다고 보는 시선도 있습니다.

메트로크는 초기투자금으로 2백만 유로를 유치했습니다. 투자자들은 특히 재소자 노동 활용을 혁신적으로 보았다고 합니다. 그렇다면 여기서 말하는 혁신이란, 기술적 진전보다는, 새롭게 찾아낸 저임금 노동 공급원인 셈입니다.

인권이 잘 보장되기로 유명한 핀란드이고 재소자들 또한 자발적으로 데이터 라벨링 노역에 참여하고 있으니 ‘노동착취’라는 표현은 섣부른 걸까요? 한국, 영리 교도소가 존재하는 미국, 공권력이 막강한 중국 등에 데이터 라벨링 노역이 도입될 경우 어떤 일이 벌어질지 상상한다면, 조금 예민하게 구는 것도 괜찮을 듯합니다. 현재는 데이터 라벨링 노역이 ‘안전한’ 작업에 국한되지만, 폭력적/선정적 콘텐츠 모더레이션 등 보다 위험한 작업으로 확대될 가능성도 있다는 점에서 더욱요.

다양한 관점으로 생각하는 힘

by 🌏다솔

이미 존재하는 AI 시스템에 반창고를 붙이지 않도록, 처음부터 기술을 설계하는 방식을 재구상(reimagine)하려면 어떻게 해야 할까요?

벤카타수브라마니안은 기존 기술에 대한 비판을 넘어 새로운 기술 설계 방식으로 나아가자고 제안합니다. 벤카타수브라마니안은 AI 공정성 분야를 선도하는 연구자로, 예측 AI에서 발생할 수 있는 차별과 편견의 위험에 대한 인식을 제고해 왔습니다. 그는 2021년 백악관 과학기술정책실 과학 및 사법 담당 부국장으로서 AI 권리장전의 청사진을 공동 집필했습니다. 지난 8월 백악관을 떠난 그는 현재 브라운 대학교의 기술 책임, 재구상 및 재설계 센터의 책임자로 있습니다.

그는 지금까지 대기업이 원하는 것, 정부가 원하는 것, 또는 그저 멋지고 재미있는 기술 문제처럼 보이는 것에 기술 개발이 끌려왔음을 지적합니다. 그 결과 공동체는 누구도 의도하지 않은 감시, 편향, 차별 등의 윤리적 문제로 피해를 당했죠. 벤카타수브라마니안은 피해를 당할 공동체를 위한 기술을 먼저 상상할 것을 제안합니다. 그는 학생들과 함께 정치 권력에 의해 감시받는 사람들을 위한 통신 인프라를 구상하고 있는데, 이 역시 공동체를 위한 기술 재구상의 한 사례입니다.

이전 레터에서 소개해 드렸던 🦜팀닛 게브루도 한 팟캐스트에서 비슷한 발언을 했습니다. AI를 만들기 전 단계에서부터 빅테크가 주목하지 않는 영역을 다양한 관점에서 상상하는 것이 중요하다고요. 다양한 분야의 사람들이 함께 기술을 활용하는 미래 모습을 상상하고 목소리를 내는 것이 필요합니다. 게브루는 기술 문해력이나 코딩보다 “다양한 관점으로 생각하는 힘”을 강조합니다.

🦜AI 윤리 레터도 여러분이 다양한 관점으로 생각하는 힘을 얻는 데에 도움이 되었으면 합니다. 실제로 레터에 소개해 드리고 있지는 못하지만 많은 피드백들을 받고 있어요. 레터의 취지에 공감해 주시는 분들, 저처럼 현업에 계신 분들의 고민도 듣고 있답니다. 구독자분들의 피드백 덕분에 큰 힘을 받고 있어요. 감사합니다. 앞으로도 다양한 관점이 반영될 수 있도록 노력할 테니, 더욱 많은 피드백 부탁드려요.