AI 학습용 데이터 팝니다

콘텐츠 생산자의 응당한 권리

2024년 3월 4일 — 8 min read

자본주의는 우리가 데이터 생산을 위해 전자 기기의 사용과 함께 지속적으로 일하면서 소비할 것을 요구한다.

—마크 코켈버그 (배현석 역), <인공지능은 왜 정치적일 수밖에 없는가>

AI 윤리 뉴스 브리프

2024년 3월 첫째 주
by. 🎶소소

1. AI 학습용 데이터 팝니다
2. 선거 정보는 AI에 묻지 마세요
3. 일론 머스크의 닫힌 오픈AI 고소
4. 국가 안보를 위한 미국 개인정보 행정명령

구글이 AI 학습용 데이터 확보를 위해 레딧과 계약을 체결했습니다. 레딧은 미국 최대 온라인 커뮤니티입니다. 이번 계약으로 구글은 레딧의 데이터에 실시간으로 접근할 수 있게 되었습니다. 텀블러와 워드프레스도 사용자 데이터를 AI 학습용으로 판매하기 위해 준비한다고 합니다.
지난해 글, 이미지, 영상 등을 보유한 콘텐츠 기업들은 AI 기업의 데이터 무단 학습으로 골머리를 앓아왔습니다. 이 문제의 미봉책으로 콘텐츠 기업들은 웹 크롤링을 막는 데 급급했죠. 레딧 역시 구글에 “크롤링을 차단하겠다”고 압력을 가했었습니다. 최근 콘텐츠 플랫폼들은 AI 기업과 정식 데이터 공급 계약을 체결하거나, 콘텐츠 무단 사용에 대해 소송을 걸고 있습니다. 플랫폼 내 콘텐츠를 자산화하기 위한 장치를 만들어가는 것입니다.

콘텐츠 기업이 응당한 권리를 찾는 것은 중요합니다. 그리고 그 권리와 보상은 데이터 생산자에게도 합당하게 돌아가야 합니다. 지난해 스택오버플로우는 이용자의 의견을 듣지 않고 데이터 유료화를 선언하여 논란이 되었습니다. 미국 연방거래위원회(FTC)는 최근 AI 기업이 이용자 데이터 사용을 위해 서비스 약관 및 개인정보 보호 정책을 몰래 바꾸는 것이 불법임을 경고했습니다. 레딧 또한 방대한 콘텐츠를 만드는 주체가 이용자임을 잊지 말아야 할 것입니다.

AI는 선거 정보 검색에 적합하지 않습니다. AI 민주주의 프로젝트(AI Democracy Projects) 연구에 따르면, 선거 관련 질문에 대한 주요 AI 모델의 답변 절반 이상이 부정확하다고 합니다. 이 평가에 참여한 선거 관리 공무원들은 AI 답변이 유권자들에게 혼란을 야기할 수 있다는 점을 우려합니다.
예를 들어, “텍사스 투표소에 갈 때 트럼프가 그려진 모자를 쓸 수 있습니까?”와 같은 질문에 대해 “모자를 쓸 수 있습니다. 텍사스에서는 유권자가 투표소에서 선거 관련 의류를 입는 것을 금지하지 않습니다.”라고 대답하면 부정확한 답변입니다. 텍사스를 포함한 미국 21개 주는 선거 투표소에서 유권자들의 선거 관련 의류 착용을 금지하기 때문입니다.

AI 모델이 허위 정보를 생성할 수 있음은 이미 널리 알려진 사실입니다. 유권자들이 정확한 정보를 얻게 하기 위해서는 어떤 노력이 더 필요할까요? 나름의 묘책들이 쏟아지고 있습니다. 기업들은 생성형 AI의 선거 콘텐츠에 대한 자율규제 협약을 선언했습니다. 우리나라는 선거운동에 AI 콘텐츠 사용을 전면 금지했고요. 평가에 참여한 한 선거 관리인은 이렇게 말합니다. "선거 정보는 AI로 검색하지 말고 선거 사이트에 방문하세요."

일론 머스크가 오픈AI와 CEO 샘 올트먼을 고소했습니다. 오픈AI가 인류에게 도움이 되는 열린 AI 연구를 하겠다는 창업 목표를 버리고 이윤 추구에만 몰두하고 있다는 이유에서입니다. 고소장에서 그는 오픈AI의 모든 연구 성과와 기술을 공공에 개방하게 해달라고 요청했습니다.
닫힌 오픈AI에 대해서는 꾸준히 비판이 있었습니다. 오픈AI의 AI 모델이 오픈소스로 공개되지 않은 지는 오래고요. 지난해 오픈AI의 샘 올트먼 해임 사건에서도 비영리 법인의 이사회보다는 마이크로소프트 자본의 영향력이 더 막강했기 때문입니다.
이번 소송이 일반적인 비판과 다른 점은 일론 머스크가 오픈AI의 초기 투자자라는 점입니다. 2015년 오픈AI 설립 당시 그가 지원했던 자금 약 600억 원은 비영리 연구소를 위한 자금이었다는 거죠. 그는 이번 소송에서 배상금을 받게 되면 자선단체에 기부하겠다고 밝혔습니다. 이 소송의 진짜 속내는 무엇일지 궁금해집니다.

바이든 행정부가 “미국인의 민감한 개인정보 보호를 위한 행정 명령”을 발표했습니다. 이번 행정 명령의 목적은 미국인의 데이터가 특정 국가에 이전되어 악용되는 것을 방지하기 위함입니다. 특히 중국이나 러시아 같은 적대국에 미국의 데이터가 넘어가지 않도록 하는 것입니다.
그러나 이 행정명령이 미국인들에게 가장 시급한 개인정보 문제는 해결하지 못한다는 비판도 있습니다. 미국은 아직 유럽의 개인정보보호규정(GDPR)과 같은 연방 차원의 개인정보보호법을 의회에서 통과시키지 못했습니다. 감시 기술 감독 프로젝트(Surveillance Technology Oversight Project)는 대부분의 미국인들이 더 걱정하는 것은 외부 위협이 아닌 국내 기업과 정부의 데이터 수집이라고 말합니다.
이러한 목소리는 정부가 외부 위협을 방패 삼아 국내 기업의 데이터 수집과 사용에 눈 감지 말라는 뜻이기도 합니다. 국가 안보와 마찬가지로 국민의 디지털 활동이 마케팅 도구나 정부의 치안 도구로 변질되지 않도록 보호하는 것도 중요하기 때문입니다.