기술이 제대로 작동하지 않거나 새로운 기술이 도입되고 그것에 아직 익숙하지 않을 때만, 우리는 기술에 주목하고 기술은 우리 경험의 전경으로 떠오른다.
—스벤 뉘홀름 (윤준식·박형배 역), <이것이 기술윤리다>

AI 윤리 뉴스 브리프

2025년 6월 셋째 주
by 🤔어쪈

1. 죽은 인터넷 이론, 현재 진행중

죽은 인터넷 이론(Dead Internet theory)을 들어보셨나요? 온라인의 콘텐츠 작성과 상호작용이 대부분 실제 사람이 아닌 봇과 AI에 의해 이뤄져 인터넷이 사실상 죽은 공간이 되었다는 일종의 음모론입니다. 용어를 처음 듣더라도 생성형 AI가 보편화된 시대를 살고 있는 우리의 감각으로는 너무도 익숙한, 그래서 음모론이 아닌 사실이라고 해도 이상하지 않을 내용이기도 하죠. AI 윤리 레터에서도 2년 전부터 꾸준히 경고해 온 인터넷 생태계의 붕괴와도 굉장히 밀접한 주제입니다.

전부터 죽은 인터넷 이론의 주요 근거로 활용되던 사이버보안 기업 임퍼바(Imperva)의 악성 봇 보고서 최신판(2024년 기준)에 따르면, 지난 10년 간 처음으로 봇에 의한 인터넷 트래픽이 전체 절반을 넘었습니다. 허가 없는 데이터 스크래핑이나 계정 정보 탈취 등 악의적인 봇 활동 역시 계속해서 증가하고 있는 한편, 생성형 AI 활용의 증가 추세에 따라 오히려 공격 방식의 복잡도는 낮아졌다고 밝혔습니다. 반면 지난 2월에 발표된 논문은 챗GPT 출시 이후 생성형 AI를 활용한 것으로 탐지된 온라인 상의 문서가 종류에 따라 전체 약 10%에서 24%까지 달한다고 분석하기도 했습니다.

• 구글이나 네이버가 AI를 검색에 접목하려는 시도는 이런 흐름에 쐐기를 박습니다. 구글은 최근 검색 결과를 요약 제공하는 AI 오버뷰 기능을 미국 내에서 기본 설정으로 바꿈과 동시에 전세계로 확대 출시했고, 대화형 검색을 지향하는 AI 모드를 선보였습니다. 네이버 역시 유사 기능인 AI 브리핑의 확대 적용과 AI 탭 도입 계획을 발표했습니다. AI에 의한 트래픽이 새로운 시장이라며 수익화 도구를 제공하는 업체가 나타나는 한편, 언론사를 비롯한 기성 온라인 콘텐츠 제공자는 두려움에 떨고 있습니다.
• 물론 ‘인터넷 기업’인 구글이나 네이버에서 인터넷을 죽이기 위해 각종 AI 기능을 내놓는 것은 아니겠죠. 오히려 신생 AI 기업으로부터 검색 시장 점유율을 지키기 위해 다소 뒤늦은 대응이라는 평가가 많습니다. 문제는 이들간의 경쟁이 불러일으킬 의도치 않은 효과입니다. 예컨대 한 영상에서 지적하듯 온라인 상의 모든 것에 대한 신뢰를 잃어 폐쇄적인 커뮤니티만 남거나, 인터넷에서 내가 인간임을 증명해야만 하는 상황이 올 수도 있겠죠. 물론 디스토피아적인 상상이지만 슬프게도 가능성이 없어보이지만은 않습니다.

2. AI 3강 도약 전략은 소버린 AI?

이재명 정부 대통령실이 조직을 개편하며 ‘AI미래기획수석’(이하 AI수석)을 신설하여 하정우 네이버클라우드 AI 혁신센터장을 임명했습니다. AI수석은 레터에서 지난 몇 주간 다뤄온 ‘AI 3대 강국 진입’을 비롯한 AI 공약 실천을 담당할 전망입니다. 다만 국가AI정책 외로도 과학기술연구, 인구정책, 기후환경에너지와 같이 주요 영역별 담당 비서관을 산하에 두어 AI뿐 아니라 여러 굵직한 국정과제들을 이끄는 중책을 맡게 됩니다.

하정우 신임 수석은 컴퓨터공학 박사를 마친 후 네이버에서 약 10년 간 AI 연구개발을 주도해 온 산업계 인사입니다. 최근에는 AI 관련 강연이나 행사에 빠지지 않고 등장하며 언론 기고나 대중서 저술 등 적극적인 대외활동을 통해 AI 주권을 강조하는 이른바 ‘소버린 AI’ 담론을 이끌어 왔습니다. 대통령실 역시 이를 언급하며 국가의 지원이 기업의 성과 공유로 이어지는 AI 선순환 성장 전략을 실현해줄 것을 주문했습니다.

AI수석과 긴밀히 협업해야 할 과학기술정보통신부의 조직 개편 및 장관 인선은 여전히 오리무중입니다. 때문에 정부가 내놓을 AI 정책에 대한 힌트는 주로 하 수석이 공동대표를 맡았던 과실연(바른 과학기술사회 실현을 위한 국민연합)에서 발표한 AI 정책 제안서에서 찾을 수 있을 것으로 보입니다. 당장 대통령실의 ‘AI수석’ 부터 해당 문서에서 언급된 바 있죠. 업계에서는 AI 기술과 산업 이해도가 높은 민간 현장 전문가가 발탁되었다며 환영 일색이지만, AI 정책이 기술 발전과 산업 육성에만 집중되지 않도록 폭넓은 고려가 이뤄지기를 바라는 마음입니다.

3. 국내외 AI 정책 소식들

• 지난주 소개했던 국가 AI컴퓨팅센터 사업은 결국 2차 공모도 유찰되었습니다. 민간 업계에서 참여할 유인이 없다고 지적받은 사업의 각종 조건을 그대로 유지한 결과, 수의계약이 가능함에도 불구하고 아무도 지원하지 않았습니다. GPU 확보와 국가 차원의 데이터센터 구축은 정권과 무관하게 속도를 내고자 했던 과제였지만 일정에 차질이 생길 가능성이 높아졌습니다. 정부가 지원하고 민간이 구현하는 구조가 말처럼 쉽지만은 않습니다.
• 일본 AI법(AI 연구개발 및 활용 추진법)이 의회 통과와 내각 공포를 거쳐 제정되었습니다. 이름에서부터 알 수 있듯 이른바 ‘혁신 장려’에 초점을 맞춘 법률입니다. 범죄 조장이나 개인정보 유출, 저작권 침해 등의 AI 오용에 대한 관리 방안도 담고 있으나 정부의 조사와 행정 지도에 따를 것만을 요구할 뿐 별도 벌칙 규정을 두지 않고 다른 현행법을 통해 규제합니다. AI 산업 발전 촉진을 위한 ‘AI 전략본부’를 설치하여 정책 기획과 조정을 담당하도록 하는 점은 우리나라 AI법(국가인공지능위원회)과도 비슷합니다. 규제 역시 혁신을 위해 필요한 도구라는 사실을 잊은 것처럼 보이는 각국 정부의 모습이 아쉬워지는 요즘입니다.

• 영국에 이어 미국 역시 AI안전연구소의 이름과 역할을 변경합니다. 새로운 명칭은 AI표준혁신센터(Center for AI Standards and Innovation; CAISI)로, 약자는 기존과 큰 차이가 없습니다. 담당 업무 역시 최신 AI 기술 발전을 평가하고 취약점을 분석한다는 점에서 크게 다르진 않지만 영국과 마찬가지로 국가안보에 초점이 맞춰져 있습니다. 사실 미국 AI안전연구소는 이미 트럼프 대통령 집권과 동시에 역할이 붕 뜬 상태였습니다. 수장 엘리자베스 켈리(Elizabeth Kelly)는 즉시 사임했고, 각국 AI안전연구소간 협력이 이뤄질 것으로 기대된 지난 파리 AI 정상회담에도 참석하지 않았습니다. 이제 누가 AI 안전을 챙겨줄까요?

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.