우리가 상상하는 미래의 모습을 달성하기 위해 완전히 새로운 기술이 필요한 건 아니며, 문제 의식의 방향만 바꾸면 우리가 지금 보유한 기술로도 충분히 달성할 수 있으리라는 이야기다.
—조경숙·한지윤, <AI블루>

공약되지 않은 AI 윤리와 안전 문제

by 🤔어쪈

대선 후보들이 너나 할 것 없이 AI 3대 강국으로 도약하겠다는 구호를 내세운 반면, 적지 않은 공약 분석 기사들은 구체적인 이행 방안이 부재하다는 지적을 내놓고 있습니다. 요약하자면 100조 단위의 투자 금액을 어떻게 확보할 것인지, 그 돈으로 구축한 데이터센터와 같은 인프라를 구동하는 데에 필요한 전력을 어떻게 공급할 것인지에 대한 계획이 빠져있다는 것입니다. 물론 이러한 비판이 비단 AI 공약에만 적용되는 것은 아니며, 말뿐인 약속에 지나지 않도록 우리는 ‘어떻게?’라는 질문을 선거가 끝나고서도 계속해서 던지고 답변을 들어야만 합니다.

하지만 좀처럼 묻지도, 답하지도 않는 종류의 ‘어떻게’ 질문도 있습니다. 대선 후보들이 부르짖는 AI 강국은 어떤 모습인가요? 어찌저찌 AI 분야에 투자할 100조원과 AI 청년 인재 20만명, GPU 5만장이 설치된 데이터센터와 이를 돌릴 전력이 확보되었다고 칩시다. 모두의 AI 내지는 K-오픈AI 프로젝트를 통한 AI 모델은 어떻게 개발되고 활용되어야 할까요?

이미 현실화된 AI 위험, 어떻게 대응해야 할까요?

대선을 앞두고 AI는 하나의 산업 분야를 통틀어 아우르는 표현으로, 주로 경기 침체를 이겨내기 위한 신성장동력 내지는 미래 먹거리로 여겨지고 있습니다. 하지만 우리는 반도체 노동자의 건강과 인권 수호를 위해 힘써온 반올림의 활동으로부터 국가가 산업을 경제 성장이라는 가치로만 규정할 때 그 무엇보다 중요한 사람을 잃는다는 것을 배운 바 있습니다. 몇몇 후보는 AI 융합 기술을 통해 안전 사회를 구현할 수 있다고 주장하기도 하지만, 사회 문제 해결이라는 목적보다 AI 기술을 활용하려는 수단이 앞선 기술만능해결주의(technosolutionism)의 발로로 보일 뿐입니다.

여론조사에서 지지율 1, 2위에 자리한 두 후보는 이른바 소버린 AI 전략에 기반한 국가 차원의 생성형 AI 모델 개발과 활용을 공약으로 내세우고 있습니다. 이미 적지 않은 국민이 챗GPT나 제미나이, 클로드와 같은 글로벌 기업의 AI 모델을 앞세운 서비스를 이용하고 있는 상황에서 국산 모델의 현실성과 효용성에 대한 의문이 뒤따르는 것도 당연합니다. 하지만 그보다도 AI가 보편화되면서 당장 현실에 직면한 위험에 대해서 각 후보가 어떻게 인지하고 있으며, 또 어떻게 해결하고자 하는지를 묻는 질문 역시 필요한 시점입니다.

생성형 AI의 악용과 오남용 위험

첫째, 딥페이크로 대표되는 생성형 AI의 악용 내지는 오남용으로 인해 우리의 일상부터 민주주의까지 위협을 받고 있습니다.

AI 윤리 레터는 창간 초기부터 꾸준히 딥페이크 성착취 문제의 심각성을 강조해왔습니다. 생성형 AI 기술의 발전으로 이미 우리 사회에서 일어나고 있던 성착취가 더 간편하게, 또 더 은밀하게 행해지고 있습니다. 일련의 사건이 발생한 이후 처벌이 강화되긴 했으나 그것만으로는 부족합니다. 이를 일부 범죄자의 일탈이 아닌 AI를 중심으로 여러 사회기술적 행위자가 공모한 악순환 구조로 이해하고, 고리를 끊기 위한 AI 기술 개발과 활용 그 너머의 방안까지 마련되어야 합니다.

지난주 기준으로 벌써 작년 총선 대비 13배 증가한 대선 관련 딥페이크 역정보 문제 역시 큰 문제입니다. 다행히도 아직까지는 파급력이 큰 사건이 발생하진 않았고, 몇차례 촌극 수준의 사례만 있었죠. 하지만 중앙선거관리위원회가 찾아낸 5000여건의 딥페이크 영상과 적발되지 않은 채로 확산되고 있는 콘텐츠가 삭제되기 전까지 유권자들에게 어떤 영향을 미칠지는 아무도 모르는 일입니다. 대선과 같은 큰 정치적 이벤트를 앞두고선 모두가 예의주시하며 피해 예방에 힘쓰겠지만, 이후로도 우리는 딥페이크 역정보를 상수로 둔 채로 사회적 논의와 의사결정을 해야만 합니다.

커져가는 AI 의존성과 그로 인한 파급력

둘째, 적지 않은 사람들이 AI를 이미 도구 이상으로 인식하며 크게 의존하고 있으며, 이 추세는 머지 않아 개인 차원을 넘어설 예정입니다.

한 후보는 자료 조사와 분석을 위해 챗GPT를 애용한다고 밝혔지만, 사람들은 이제 챗GPT 또는 AI 기반 캐릭터 챗봇을 친구나 연인, 심리상담사로 대하고 있습니다. 역시 AI 윤리 레터에서 수차례 지적했듯, 이는 기업들이 AI를 의인화하지 않을 수 없도록 개발했기 때문입니다. AI에 대한 과한 정서적 의존으로 인해 망상에 빠지거나 가족 등과의 인간관계가 단절되는 경우가 생기고 있으며, AI와의 대화 끝에 자살을 선택하는 사람도 있었죠. 복잡한 문제지만 AI 기업들이 실마리를 쥐고 있다는 것만큼은 분명합니다. 국산 AI 모델을 개발해서 보급하겠다는 대선후보들은 오픈AI가 최근 챗GPT의 성격을 조정하는 업데이트 이후 아첨이 과하다는 뭇매를 맞고 원상복구를 진행한 사례를 단순 해프닝으로 받아들여선 안될 것입니다.

이제 AI 업계의 명실상부한 메가 트렌드로 자리잡은 ‘AI 에이전트’는 일부 개인 차원을 뛰어넘는 조직적, 사회적 차원의 AI 의존성을 의미하기도 합니다. 기업과 공공기관은 생산성과 효율성을 높이기 위해 기꺼이 AI에게 자율적 행위성을 부여하고 위임할 준비가 되어 있습니다. 아직은 도입 초기라 수면 위로 문제가 드러나진 않았지만, 통신이나 금융, 또는 공공 행정을 비롯한 핵심적인 기반 서비스의 일부를 AI 에이전트가 담당하다 오작동 등으로 인해 사고가 발생하면 어떻게 될까요? 예컨대 일론 머스크의 AI 기업 xAI에서 만든 모델이 극우 음모론에 동조하며 불거진 문제는 챗봇에서 드러났기 망정이지, 해당 모델이 채용이나 공공 행정 부문의 AI 에이전트에 적용되었다면 파급력은 이루 말할 수 없었을 겁니다.

당장 답을 듣기 어렵다면 거버넌스 점검부터

아무래도 후보들이 좀처럼 듣지 못했던 종류의 ‘어떻게’ 질문에 답을 갖고 있으리라 기대하기가 어려워보입니다. 누군가 공개적으로 묻는다면 대통령이 되고나서 논의해보겠다고 하겠죠. 열심히 찾아보았지만 앞서 다룬 AI 윤리와 안전 문제를 깊이 고민한 흔적이 보이는 공약은 거의 없었습니다. 이재명 후보와 권영국 후보의 디지털 성범죄에 대한 처벌과 모니터링 등의 대응을 강화하겠다고 약속한 내용이 전부였죠.

이른바 AI 시대에 마주하게 된 문제들을 어떻게 해결할 것인지에 대한 직접적인 답변을 듣기 힘들다면, 최소한 공론화와 더불어 시민들의 의견을 듣는 창구라도 만들어 달라고 해야 하지 않을까요? 다행히도 6월에 출범할 새로운 정부 앞에 AI기본법 시행령 제정이라는 중요한 숙제가 놓여 있고, 오늘 다룬 문제들은 이 하위법령의 주요 쟁점이기도 합니다. 최근 과학기술정보통신부는 연초 하위법령 정비단을 구성하여 마련한 AI기본법 시행령 초안에 대해 4월부터 진행중인 의견수렴을 마치고 6월 입법예고를 하겠다는 계획을 발표했습니다. 하지만 이 사실조차 처음 듣는 분들이 많지 않을까 싶은데요. 권영국 후보의 공약인 ‘범시민 AI 공론화 위원회’만큼은 누가 대통령이 되더라도 실현되어 AI 윤리와 안전에 대한 질문을 함께 다룰 수 있다면 참 좋겠습니다.

왜 “AI 1강 달성”이 아니라 “AI 3강 달성”이어야할까?

by 🧙‍♂️텍스

거대 양당 후보자 둘 다 과학기술정책에 있어서 AI 3강 달성을 공약했습니다. 이재명 후보는 “인공지능 대전환(AX)을 통해 AI 3강으로 도약”을, 김문수 후보는 “AI 전 주기에 걸친 집중 투자와 생태계 조성으로 3대 강국 도약”을 각각 약속했습니다. 한때 쇼크라고 불리던 딥시크(DeepSeek)은 미디어상에서 사라졌지만, 그 흔적은 이번 대통령 공약 곳곳에 남아 있습니다.

과학기술정책과 기술성숙도

과학기술 분야에서는 딥시크와 같이 특정 키워드가 갑자기 등장해 연구개발 예산을 좌지우지합니다. 사실, 오픈AI도 2015년에 설립돼 응용 연구부터 상업화까지 차곡차곡 단계를 밟아서 챗GPT를 내놓았지만, 일반 사회에서는 갑작스러운 기술 키워드였죠. 주요 기술 트렌드 변화 때 마다 등장하는 ‘그 당시 트렌드 → 간헐적 예산’ 구조는 한국 사회의 과학기술 소비 방식입니다. 공론장에서는 기초 연구부터 상업화까지 서로 다른 단계를 모두 ‘과학기술’이라는 한 단어로 뭉뚱그려 다루다 보니, 기술적 완성도보다는 미디어‧유튜브 장악력이 과학기술 논의를 주도하는 경향이 강합니다. 이런 상황에서는 기술성숙도(Technical Readiness Level, TRL)와 같은 개념을 통해 현재 위치와 필요한 자원을 냉정히 구분할 필요가 있습니다. TRL은 9단계로 과학기술 개발을 세분화하는데 이 글에서는 세 갈래로 나눠서 언급하겠습니다.

• 새로운 원리와 현상을 탐구하는 기초 연구 단계.
• 실험실을 벗어나 프로토타입을 검증하는 응용 연구 단계
• 대량생산과 시장 진입을 준비하는 개발 연구 단계입니다.

각 구간은 연구개발의 목적, 리스크 그리고 필요 자원이 상이하므로 연구비도 이 흐름에 맞춰 배분돼야 합니다. 2023년 한국의 총 연구개발비는 119조 740억원이고 기초 연구 17조 7404억원(14.9%), 응용 연구 23조 4752억원(19.7%), 개발 연구 77조 8584억원(65.4%)으로 구성되어 있습니다. 이 중 공공 재원 28조 1276억원(23.6%), 민간 재원 90조 9464억원(76.4%)입니다.

고성능 GPU 5만 개 이상 확보와 같은 AI 예산의 당위성

이재명 후보는 “고성능 GPU 5만 개 이상 확보와 국가 AI 데이터 집적 클러스터 조성”을 공약했습니다. 사실 GPU 5만 장을 구입해 클러스터를 조성하겠다는 계획은 명확한 경제‧사회적 명분이 뒷받침된다면 실행할 수 있습니다. 그러나 현재 세부 사항들은 좀 의문이 듭니다. 첫째, 대학은 원칙적으로 기초‧응용 연구를 수행하는 곳이므로, 초거대 AI 모델 학습에 필요한 막대한 컴퓨팅 자원을 상시 확보할 필요성이 높지 않습니다. 정말 초거대 AI 모델 연구가 필수라면 연구팀이 기술 창업을 하거나 기업 연구소로 자리를 옮겨 상업화 단계에서 자본을 조달하는 편이 자연스럽습니다.

둘째, 기업의 경우 특정 국가를 위한 소버린 AI는 아무래도 내수 산업 수요 위주로 흐를 수밖에 없기에 국내 시장에만 성과가 머무를 가능성이 큽니다. 즉, 소버린 AI를 지향하는 기업에 정부의 막대한 투자는 회수가 어려울 수 있습니다. 글로벌 마켓에서 경쟁하겠다는 구체적인 전략이 있어야 하고 그래야 큰 세금 지출에 대한 설득력 있는 근거가 마련됩니다. 물론, 네이버가 일본에서 라인(LINE) 지분 구조 문제로 곤란을 겪은 사례는, 플랫폼 비즈니스가 국가 간의 관계까지도 고려해야 할 정도로 어려운 현실을 보여 줍니다. 하지만 글로벌 경쟁력이 없는 AI 산업이라면 이미 고용 창출 능력이 높으면서 글로벌 경쟁력까지 있는 다른 산업에 지원도 고민해 봐야 합니다.

AI 정책의 대안

민주노동당 권영국 후보는 해외 플랫폼 디지털서비스세 신설 정책을 언급했습니다. 후보들 10대 공약에서 플랫폼 규제로는 유일하기에 긍정적으로 평가할 만하지만 국제 협력이 결여된 국내 규제는 실효성에 한계가 있습니다. 미국의 글로벌 빅테크는 국경 넘나들며 데이터를 수집하고 조세 회피 구조를 구축했지만, 이 구조는 미국 영향권의 국가들만 유효합니다. 그러므로 EU 등과 글로벌 협력 구조 및 이에 기반한 플랫폼 규제를 만드는 것이 이러한 공약을 현실화할 방법이라 판단됩니다.

이재명 후보의 전 국민 챗GPT 서비스와 같은 공약을 진정으로 구축하고 싶다면, 정부 부처 서비스 공개 데이터 구축 또한 고려해 볼만합니다. 오픈AI의 ChatGPT 및 메타의 Llama 같은 글로벌 생성형 AI 서비스 및 모델은 언제나 고품질 데이터가 필요하므로, 고품질의 공개된 한국어 데이터는 자연스럽게 모델 학습에 반영됩니다. 또한, 정보 공개 요청을 하면 “검토 중”이라며 차일피일 미루는 사례가 있는 현실에서, 공공기관이 보유한 행정 문서, 정책 자료, 의정 기록을 컴퓨터가 다루기 쉬운 형태로 표준화‧개방하면 기술적 이익을 넘어 민주적 통제라는 가치도 실현됩니다. 추가로 어렵겠지만 개인정보와 저작권에 대한 명확한 선례를 마련한다면 이에 대한 국제적 선례 또한 남길 수 있습니다. 전 국민의 인공지능은 단순히 접근성뿐만 아니라 모두가 이득을 보는 인공지능을 의미해야 할 것입니다.

유행보다는 일관성 있는 과학기술정책을 기대하며

AI 3강은 또 하나의 유행 키워드입니다. 그럼에도 진지하게 이를 추진하겠다면 아무도 쓰지 않을 3등 플랫폼보다는 적어도 지향점은 1등이어야 할 것입니다. 여기에 글로벌 거버넌스로 플랫폼 규칙을 다시 써야 한국의 생성형 AI는 일회성 구호가 아닌 지속 가능한 성장 동력이 될 것입니다. 그리고 분명히 지나갈 AI 유행보다 중요한 것은 과학기술정책의 일관성과 장기성을 담보하는 것입니다. 연구개발을 위한 정부 예산 약 30조 어떻게 쓰는 것이 바람직할지 독자분들의 생각이 궁금합니다.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.