유튜브 커뮤니티 가이드'의 첫 줄은 이렇게 적혀있다.
"YouTube에 표시되는 콘텐츠가 모두 마음에 들 수는 없을 것입니다."

— 최은창, <가짜뉴스의 고고학> 중 유튜브 가이드 인용 (p319)

AI 분야의 젠더 격차

by 🎶소소

지난주 오픈AI가 새로운 비디오 생성 AI 모델 Sora를 발표했습니다. 프롬프트만으로 자연스럽고 선명한 고화질 영상이 만들어져 화제가 되었죠. 데모 영상 속 길을 걷는 여성의 걸음걸이와 클로즈 업 된 피부, 선글라스 반사까지 놀랍도록 자연스럽습니다. 가트너는 2030년에는 블록버스터 영화 제작의 90%에 생성 AI가 활용될 것으로 예측했는데요. 그 시기가 더 빨라질 수도 있겠습니다.

생성 AI와 성착취물

저는 생성 AI 영상 속 여성의 자연스러운 걸음걸이에 감탄하면서도, 동시에 이 기술이 앞으로 얼마나 많은 여성 착취물 생성에 기여할지 걱정되기 시작했습니다. 최근 이미지 생성 AI의 활용이 확대되면서 실존 인물, 특히 여성을 대상으로 한 가짜 성착취물 문제도 많아졌기 때문입니다. 지난달에는 테일러 스위프트를 묘사해 AI로 생성한 성착취 이미지가 온라인에 널리 퍼졌습니다. 이 게시물은 삭제되는 데 걸린 17시간 동안 4,500만 회 이상 조회되며 당사자가 원하지 않는 주목을 받았습니다.

대부분의 이미지 생성 AI 서비스는유명인 혹은 실존 인물의 이미지 생성을 제한합니다. 그러나 이러한 제한조차 허술한 서비스들이 많습니다. 오히려 특정 인물의 가짜 포르노 이미지를 생성하는 AI 모델 개발을 유도하고 수익을 공유하는 플랫폼이 인기입니다. 이 플랫폼은 유명 벤처캐피탈로부터 큰 투자를 받을 정도로 이목을 끌었습니다.

AI 분야의 젠더 격차와 성편향

이렇게 AI 기술이 여성 착취에 이용되기 쉬운 이유 중 하나로 AI 분야의 낮은 여성 비율이 꼽힙니다. 빠르게 발전하는 AI 기술과 다르게 AI 분야의 젠더 격차의 진전은 아주 더딥니다. 전체 AI 분야 인력이 2016년부터 2022년까지 6배 증가한 반면, 여성 비율은 약 4% 증가했습니다. 많은 국가에서 여성은 여전히 교육, 기술, 인프라에 대한 접근성이 낮습니다.

이렇게 AI 분야에 여성의 관점과 경험이 충분히 반영되지 못하는 상황은 기술 자체에 성편향이 내재될 가능성을 높입니다. 유네스코 보고서는 AI 분야 종사자 대다수가 성착취나 성폭력 문제로부터 동떨어져 있는 특권에 기반한 무지(Privileged Ignorance) 때문에 이 문제를 저평가하기 쉬우며 해결책도 단편적으로 될 수 있다고 이야기합니다.

현실보다 심각한 AI의 성편향

AI 분야의 젠더 격차는 AI 기술에 유해한 성편향을 촉발하고, 이는 사회적 성차별을 영속시킬 뿐 아니라 악화시키는 근본적인 원인이 될 수 있습니다. 심지어 이미 AI에 내재된 성편향은 현실보다 더 심각합니다. 블룸버그 분석에 따르면 ‘판사’를 키워드로 스테이블 디퓨전이 생성한 이미지의 3%만이 여성입니다. 그러나 미국여성판사협회와 연방사법센터에 따르면 미국 판사의 34%가 여성이라고 합니다. 이렇게 AI는 인간이 지켜내지 못한 사회의 격차를 그대로 답습할 뿐만 아니라, 수 세기 동안 이뤄온 인류의 노력조차 따라가지 못하고 있다는 것이 문제입니다.

“사람들은 어떤 집단에서 자신과 비슷한 모습을 발견하지 못한다면 그 집단에 속하지 않는다는 것을 배운다. 그리고 이미지는 이러한 생각을 강화시킨다.”
— Black Girls Code, 헤더 하일스

더 많은 여성의 목소리를

유네스코 AI 윤리권고 내 ‘젠더’ 정책은 AI 시스템 수명주기 전반에 여성의 인권과 기본적 자유를 보장하고, 성평등 달성에 기여해야 한다는 중요한 내용을 담고 있습니다. 그러나 이 젠더 정책이 유네스코 위원회의 선량한 남성 위원들(Well Behaved Men)에게는 환영받지 못했다고 합니다. 특권에 기반한 무지가 이 정책의 필요성에 대한 의문 제기로 이어졌던 것이죠. 논쟁 끝에 여성 위원장의 지지로 AI 윤리권고에는 젠더 정책이 포함될 수 있었다고 합니다. 이 정책이 AI 분야의 젠더 격차를 줄이는 데 도움을 줄 수 있을까요? AI 분야에 더 많은 여성의 목소리가 적극적으로 들리기를 바라면서 글을 마칩니다.

외부인의 'AI 디지털교과서' 단상

by 🤖아침

지난 1월 31일 서울에서 열린 <디지털교육포럼>에 충동적으로 다녀왔습니다. 학생 때 찾아다니던 학술행사 같은 것을 상상하며 호텔 컨벤션홀에 들어자 전문 사회자가 국기에 대한 경례를 위해 사람들을 일으켜 세웠고, 제 뒤로는 라이브 방송팀이 바삐 일하는 중이었습니다. 다음 순서는 교육부 차관의 (영상) 인사말. "이거, '관' 행사구나"라는 깨달음이 뒤늦게 왔습니다.

수학, 영어, 정보 세 교과마다 한 섹션씩 시간이 배정되었습니다. 각 세션의 첫 순서는 AI 디지털교과서(DT)를 활용한 수업 사례를 발표하는 교사, 그다음은 교수 한 명과 교사 두 명이 차례대로 교수학습모델에 관한 발표, 마지막은 다른 교수가 좌장을 맡아 종합토론. 동일한 구성을 세 차례 반복했습니다.

교육 현장에 있는 분들이 AI 기술에 관해 가진 다양한 의견을 들을 수 있겠거니 하는 막연한 기대로 방문한 제게 오히려 인상적인 것은, 과목과 무관하게 열다섯 명의 발표와 토론이 동일한 하나의 메시지를 반복하고 있다는 점이었습니다. (세부적인 차이를 잡아내기엔 제가 견문이 적은 탓도 있을 겁니다.) 그 메시지를 거칠게 옮기면 이렇습니다. 'AI 교과서는 효율성을 가져다준다. 하지만 교사를 대체할 수는 없다.'

이날 많이 사용된 표현 중 하나는 '하이터치 하이테크'(High Touch High Tech). 교사는 고차원적 학습과 인간적 연결, 사회적/정서적 역량을 담당하고 (하이터치), AI DT(하이테크)는 문제풀이나 채점 등 반복적 과업을 맡는다는 것입니다. 교육부가 추진하는 AI DT 도입의 기조를 정렬하는 표현으로 보였습니다.

AI DT 프로토타이핑과 시범운영 후 그 경과를 보고하는 행사인 만큼 어느 정도의 메시지 통일은 당연한 것일지 모릅니다. 그래도 기조발제 슬라이드에서 제시한, '획일적 정답을 요구하는 교육 → 모든 학생이 자기만의 질문을 하는 교육'으로의 이행과, 발표자들이 약속한 듯 강조하는 유사한 메시지 사이에서 무언가 어색한 틈새를 느꼈습니다.

교사 발표자들은 AI DT가 가져다주는 효율성을 선보이면서도, 인간 교사의 역할은 여전히 중요하다는 말을 곧잘 강조했습니다. 아마도 많은 이들의 뇌리에 있는 질문에 대한, 진심에서 나온 답일 것입니다. 한 선생님은 (AI DT로) "아낀 시간을 비효율적인 과정에 투자하자"고 말했습니다. 교사가 시도해 보고 싶지만 시간/비용 등의 이유로 하기 어려운, 참여를 더 잘 끌어낼 수 있는 수업을 AI 덕에 할 수 있으리라는 기대로 들렸습니다.

AI에 반복 작업을 맡기고 인간은 창의적인 일을 할 수 있으리라는, 많이 들어본 전망과도 흡사합니다. 그렇게 될 수 있다면 좋겠습니다. 하지만 AI DT가 문제풀이 등에서 업무를 경감한다는 발표자들은, 태블릿이나 DT 서비스에 대한 학생들의 친숙도가 달라 중간에 교사가 개입해야 하는 연결노동이 새로 발생한다는 이야기도 들려주었습니다. 한편 교실이라는, 기존에는 비교적 독립적이었던 공간이 DT를 통해 감시 가능한 디지털 시공간으로 통합되는 데 따른 변화도 아직은 미지수 같습니다. 교실이 플랫폼과 연결되면 교육 노동에도 플랫폼노동의 성격이 가중될까요?

이런 우려가 기우이고 전체적으로 업무가 잘 경감된다고 하더라도, 교사가 하고 싶어 하는 종류의 수업을 '비효율'로 분류하여 우선순위에서 밀리게끔 만든 구조가 있을 것입니다. DT 도입이 그런 구조를 해결할 수 있을지, 아니면 아낀 시간에 또 다른 과제가 효율의 이름으로 비집고 들어오지 않을지 하는 걱정도 듭니다.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.