나무위키와 심연의 아카라이브

표현의 자유와 인격권을 두고 권리의 천칭이 혼란하게 흔들리는 요즘입니다.

🍊산디

2024년 10월 21일 — 7 min read

오늘날 가장 널리 알려지고, 수용되고, 법적으로 강제되고 있는 커뮤니케이션 규범들이 커뮤니케이션을 뒷받침하기보다 오히려 주변화하고 있다.
—Onara O'Neill, <Ethics for Communication?>

AI 윤리 뉴스 브리프

2024년 10월 넷째 주
by 🍊산디

목차
1. 규제 사각지대 나무위키와 심연의 아카라이브
2. AI 디지털 교과서, 커지는 신중론
3. 정체를 드러내는 각국 AI 안전연구소들

💌 AI 윤리 레터 응원하러 가기 💌

1. 규제 사각지대 나무위키와 심연의 아카라이브

나무위키의 하위 커뮤니티 사이트 ‘아카라이브’가 성착취물 유통의 온상으로 지적되었습니다. AI로 만든 성착취물도 활발히 거래되는 것으로 파악됩니다. 아카라이브는 서버가 파라과이에 있으며, 한국어로 콘텐츠를 제공함에도 불구하고 해외 IP로 우회 접속하도록 하여 국내 규제를 피하고 있다는 비판을 받고 있습니다.
한편, 방송통신심의위원회(이하 방심위)는 모 인플루언서에 대한 나무위키 페이지의 접속차단을 의결했습니다. 해당 나무위키 페이지가 사생활 침해라는 주장을 받아들여 통신사로 하여금 인터넷 이용자가 해당 URL로 접속하지 못하도록 주문한 겁니다. 방심위는 인플루언서를 공인이라 보기 어렵다고 판단하고 이들의 사생활을 보장할 필요를 고려한 것으로 보입니다. 방통심위 인터넷피해구제통합시스템에서 개인정보의 유포, 인격권을 현격히 침해하는 내용의 정보, 명예훼손 정보 등 권리침해정보에 대한 삭제, 접속차단을 신청할 수 있습니다.
방심위의 이번 결정이 검열을 강화하는 것 아니냐는 우려가 제기됩니다. 방통심위의 통신심의가 세계적으로 유례없는 규모의 온라인 행정 검열이라는 비판은 예전부터 있었죠.
딥페이크 성착취물로 인한 피해를 막기 위한 노력과 온라인 검열 사이에는 아주 얇은 선이 놓여있을 뿐입니다. 표현의 자유와 인격권을 두고 권리의 천칭이 혼란하게 흔들리는 요즘입니다. 균형은 어디에 있을까요?

🦜

더 읽어보기
- 텔레그램 건국 설화: 자유의 이름으로 세탁된 자본(2024-10-16)

2. AI 디지털 교과서, 커지는 신중론

출처: 국회입법조사처 연구보고서, <AI 디지털교과서 도입에 따른 지방교육재정부담 전망과 과제> 갈무리

국회 교육위원회 국정감사에서 AI 디지털 교과서에 대한 ‘신중론’이 제기되었다는 보도가 눈에 띕니다. 충청권 교육감들을 대상으로 한 질의에서 교육감들이 ‘신중하게 확대해야 한다’는 입장을 보였다는 것이지요.
한편 국회입법조사처는 AI 디지털 교과서가 내년부터 도입될 경우 향후 4년간 전국 17개 시도교육청이 최소 1조 9천억원에서 최대 6조 6천억원의 재정을 추가로 부담해야 한다는 예측을 내놓았습니다. AI 디지털 교과서의 책당 가격은 올해 12월에 정해질 예정으로, 시도교육청의 예산 편성 일정과도 어긋나 예산 확보가 어려울 수 있다는 우려도 함께 제시했습니다.
재정적 지속 가능성, 심지어는 법적 근거마저 불비하다는 지적이 이어집니다. 교육의 효과성은 미지수입니다. 현장에서는 개인정보보호 조치에 대한 우려의 목소리가 큽니다. AI 디지털 교과서로의 이행이 과연 불가피한 것인지, 최선의 절차가 이것뿐이었는지 의문스럽습니다.

3. 정체를 드러내는 각국 AI 안전연구소들

출처: International Center for Future Generations

지난 5월 열렸던 AI 서울 정상회의. 대한민국 외에도 호주, 캐나다, 유럽연합, 프랑스, 독일, 이탈리아, 일본, 싱가포르, 영국, 미국이 참여했습니다. 당시 채택된 ‘AI 서울 정상회의 서울선언’에는 참여국들이 AI 안전연구소(또는 그와 비슷한 기능을 수행하는 기관)를 설립하고 해당 단체 간 네트워크를 육성하여 협력한다는 내용이 포함되어 있습니다.
AI 안전연구소(AI Safety Institute, AISI)를 설립한다는 각국의 약속이 점차 실현되는 모습입니다. 비영리 공익 싱크탱크 국제미래세대센터(International Center for Future Generation, ICFG)는 각국의 AI 안전연구소 추진 현황을 점검하여 보여줍니다.
정상회의에 참여했던 국가들 간에도 접근 방식이나 자금 규모에서 상당한 차이가 관찰됩니다. 영국은 2030년까지 1억 파운드의 예산이 확보된 반면, 미국은 자금이 불확실합니다. 일본과 싱가포르, 프랑스는 규제보다는 R&D에 초점을 맞추고 있다고 하네요. 각국의 AI 안전연구소 중 유일하게 EU의 AI 오피스만 규제 기능을 갖고 있습니다.
한국도 다음달 AI안전연구소가 문을 엽니다. AI 안전 정책, 평가, 기술분야 등 세 개 연구실로 운영된다고 하네요. 이들 기구가 인공지능의 위험 관리와 신뢰 형성에 어떤 역할을 해줄지 지켜보아야겠습니다.