플랫폼은 기성 체계를 해체, 재구성하지 않습니다. 플랫폼에서는 파괴적 새로움도, 대안도 찾아보기 어렵습니다.
—구슬아, <연구자가 세상에 말을 건네는 방법>

AI 윤리 뉴스 브리프

2024년 8월 둘째 주
by 🤔어쪈

1. 현실화되는 인터넷 장벽

• 웹사이트 운영자는 콘텐츠를 AI에게 빼앗기지 않기 위해 장벽을 세우고, AI 기업들은 눈에 불을 켠 채 학습 데이터를 찾아다니며 장벽을 뚫기 위해 갖은 수단을 동원하는 모습은 어쩌면 예견된 미래일지 모릅니다. AI 기업들은 크롤러를 이용하여 인터넷 상의 데이터를 수집하는데, 그 정도가 과하다는 웹사이트 운영자들의 불만이 터져나오고 있습니다. 하루에만 10TB를 다운로드하며 오픈소스 문서 저장소에 한달 5000 달러 이상의 웹 호스팅 비용을 물리는가 하면, 크롤러명을 바꿔가며 차단을 우회하고 있다는 의혹까지 불러일으키는 경우도 있습니다.
• 이에 따라 온라인 상에서 크롤링 금지와 콘텐츠 유료화가 갈수록 보편화되고 있습니다. 대표적으로 미국 최대 온라인 커뮤니티인 레딧은 구글과의 독점 콘텐츠 제공 계약 이후 구글 검색 엔진 외로 크롤링을 허용하지 않는 방향으로 정책을 변경했습니다. 앞으로 레딧에서 작성되는 콘텐츠는 레딧에 직접 접속하거나 구글 검색 엔진으로만 접근이 가능하게 된 것이죠. 이 때문에 마이크로소프트 빙과 같은 다른 검색 엔진과의 충돌도 있었습니다.

• 검색 엔진을 통해 온라인 정보 접근이 용이해지면 모두에게 이익이 될 수 있다는 전제하에 만들어진 robots.txt 파일명으로 유명한 크롤링 관련 규약이 AI로 인해 무너지고 있는 걸까요? 이전 레터에서 우려했던 상황은 다행히도 AI 기업들이 검색과 AI 학습 등 목적 별로 다른 크롤러를 이용하는 움직임이 자리잡아 크게 문제로 대두되진 않고 있습니다. 하지만 지금처럼 불신이 축적된다면 인터넷의 개방성을 더이상 당연하게 여길 수 없는 상황이 도래할 것입니다. AI 기술 개발을 위해 우리는 무엇까지 희생해야 하는 걸까요?

2. EU AI 법 발효 이후 더 시끄러워질 우리나라

• 지난 3월 유럽의회에서 가결된 인공지능법(AI Act, EU AI법)이 드디어 발효되었습니다. EU AI 법의 대부분의 조항이 시행까지 2년의 유예 기간을 가지기 때문에 곧바로 변화가 생기는 것은 아닙니다. 다만 인권 침해 등 심각한 위험성을 가진 AI 시스템은 곧장 6개월 후부터 금지되며, 1년 뒤엔 생성형 AI와 같은 범용 목적의 AI 시스템에 대한 정보 공개 및 저작권 준수, 위험 평가 의무가 부과됩니다.
• EU 집행위원회가 2021년 처음으로 법안을 제안한 이래 유럽에서 관련 소식이 들려올 때마다 우리나라 역시 입법 논의로 들썩였는데요, 이번에도 마찬가지입니다. 22대 국회 개원 두 달 만에 6건의 AI 법안이 발의된 상황 속에서 무엇보다 정부의 추진 의지가 강해보입니다. 부처간 협의를 통해 마련된 AI 기본법 정부안을 마무리하고 있다고 밝혔고, 그에 앞서 대통령 직속의 민관협의체인 국가인공지능위원회를 두도록 하는 대통령령을 의결하며 마중물을 붓는 모습입니다.
• 최근 레터에서도 다뤘듯 국내 AI 기본법 논의가 산업 진흥에만 초점을 맞추고 각종 위험 통제를 위한 안전장치의 필요성을 축소하는 것은 아닌지 우려하는 목소리가 지속되고 있습니다. 특히 정부는 ‘시민단체 반대 의견’에는 귀를 닫고 있다는 의심을 받는 중입니다. 국가인공지능위원회와 같은 정책 논의 테이블에 누구를 앉히는지, 기업과 같이 특정 집단이 과대대표되지는 않는지 감시와 참여가 필요합니다.

3. AI 버블 우려, 세번째 AI 겨울?

• AI 가성비를 의심하는 목소리가 계속해서 커지고 있습니다. 두달 전 세계 최대 규모의 벤처캐피털 세콰이어캐피털은 전세계적으로 AI에 투자된 금액을 6000억 달러로 추정하고, 이게 회수가 가능한 수치인지 의심을 표했습니다. 이어 지난 레터에서 다룬 것처럼 골드만삭스 등의 투자회사 역시 회의적인 시각을 담은 보고서를 내놓고 있습니다. AI 분야에 거품이 심하게 꼈다는 지적이 이어지며 주식 시장 역시 크게 영향을 받은 모습입니다.
• 사실 AI가 약속한 것은 직접적인 수익이 아닌 생산성 향상이기 때문에 투자이익률이 곧장 숫자로 잡히진 않을 수 있습니다. 하지만 AI가 과연 생산성 향상에는 도움이 되고 있을까요? 최근 진행된 설문결과에 따르면 꼭 그렇진 않은 것 같습니다. 기업 경영진은 생성형 AI가 생산성에 도움을 줄 것이라는 기대를 갖고 관련 기술을 도입했지만 직원들은 다른 입장을 보이고 있습니다. 설문에 응한 실무자 중 절반은 여전히 AI를 어떻게 활용해야 하는지 모르며, 오히려 도입 후 생산성이 저하되고 업무 부담만 가중되었다고 답한 사람이 대부분이었습니다.

• 물론 이러한 반응이 이제 막 개발중인 기술에 너무 빨리, 또 너무 많은 것을 바라는 것일 수도 있습니다. 하지만 기대감을 계속해서 부풀려온 AI 업계와 이에 반응해 쏟아져나온 수많은 AI 하이프 뉴스, 또 그에 비례하여 투자된 막대한 자원을 생각해보면 꼭 그렇지도 않습니다. AI 겨울을 기억하는 이들에게는 최근 소식들이 결코 좋은 신호로 보이진 않았을 것입니다.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.