국경을 초월하는 문제라 국민국가가 해결할 수 없다는 점에서 기술에 대한 공적 통제라는 과제는 기후위기 대응과 닮았다. 가치는 생물종에 비유할 수도 있다. 어떤 가치는 죽으며, 한번 죽고 나면 되살리지 못한다.
—장강명, <먼저 온 미래>

AI 윤리 뉴스 브리프

2024년 8월 넷째 주
by 🧙‍♂️텍스

1. 규제 합리화 혹은 무효화?

• 9월 15일 기획재정부 주최로 열린 제1차 핵심규제 합리화 전략회의에서 정부는 공급자 중심의 규제를 혁신하겠다는 방향을 제시했습니다. 특히 AI, 모빌리티, 바이오헬스 등 미래산업 분야에서 경쟁력을 확보하기 위해 규제가 기업의 연구개발이나 실제 활용을 과도하게 제약하지 않도록 제도 개선에 나서겠다고 밝혔습니다. 또한 불필요하거나 효과가 미미한 처벌 조항들이 많다는 지적을 수용해 규제의 실효성과 합리성을 재검토하겠다고 약속했습니다.
• ZDNet 기사에 따르면, 이재명 대통령은 “어떤 제도가 악용될 수 있다고 하면 제도 자체를 도입하지 않는 게 아니라 악용 가능성을 막을 수 있으면, 제도가 필요하면 써야 하는 게 맞다”고 언급했습니다. 가령, AI가 얼굴 인식을 할 수 있는 기능이 있다면 그 기능 자체를 금지할 것이 아니라 유출과 오남용을 예방하는 안전장치와 제도 설계를 고민하는 쪽이 적절하다고 언급하였습니다. 또한 권한을 가진 사람들이 공급자 중심으로 사고하는 경향이 있어 수요자 중심 규제 설계가 부족하다고 언급했습니다.
• 수요자 중심의 규제 설계는 일종의 AI 진흥으로 흐를 가능성이 높습니다. 규제를 완화하거나 없애는 데 그치지 않고 책임 주체를 분명히 해야 할 필요가 있습니다. 이런 배경에서 현실에 대한 분석 없는 규제 합리화는 AI 서비스가 사회적 책임을 다하지 못하게 하는 이루다 사태와 같은 상황을 반복할 것입니다. 자유로운 연구개발이라는 명목하에 기본적인 윤리와 공공성을 희생시키는 방향으로 흘러가서는 안 될 것입니다.

2. AI 기본법 법령 제정 방향 공개, 고영향 AI 규정 최소화

• 과학기술정보통신부(이하 과기정통부)는 2025년 9월 8일 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 (AI 기본법) 하위 법령 제정 방향을 공개했습니다. 이 방향안에는 시행령, 고시, 가이드라인이 포함되어 있으며 과학기술정보통신부가 다양한 이해관계자로부터 의견을 수렴한 결과입니다. 과기정통부는 이 법령들을 통해 기업의 의무 주체 범위, 규제 대상 AI의 기준, 안전성과 투명성 확보 절차 등을 구체화해 규제 불확실성을 줄이겠다고 밝혔습니다.
• 하위 법령 초안에는 그동안 논란이 많았던 딥페이크 결과물에 대한 표시 의무도 명시되어 있습니다. 생성형 AI를 이용해 만든 이미지와 영상을 이용자에게 사전에 알리고 워터마크 등을 통해 식별할 수 있게 하도록 하는 조항이 포함되었습니다.
• 하지만 경향신문의 기사는 정부가 고영향 AI의 규제 범위를 지나치게 좁게 설정하고 처벌 조항의 시행을 유예해 규제의 실효성이 약화될 수 있다고 지적합니다. 법령에는 생명, 신체, 기본권에 중대한 영향을 줄 우려가 있는 영역이 고영향 AI 대상이라고 정의되어 있지만, 유럽연합 등 다른 국가의 규제 수준과 비교했을 때 중요한 위험 요소가 빠질 가능성이 있습니다.
• 규제를 풀기 전에 공백을 메우는 자율규제나 업계 표준화 규범이 먼저 준비되어야 합니다. AI 윤리는 이러한 제도적 해법의 기준점이 될 수 있습니다. 윤리적 원칙은 규제의 방향과 책임의 배분, 투명성과 공공성 확보의 틀을 제공하며, 혁신을 촉진하면서도 사회적 책임을 보장하는 균형을 만드는 데 필수적입니다. 그리고 이러한 윤리적 판단을 기반으로 기업이 규제를 회피하거나 의무를 무시하는 때도 사후적으로 책임을 물을 수 있는 제도적 장치를 마련해야 할 것입니다.

3. 미국과 중국 없이는 불가능한 소버린 AI와 그 대안

• 비영리 언론 Rest of world의 칼럼은 소버린 AI에 대한 한계 및 대안을 지적했습니다. 몇몇 나라들이 소버린 AI를 추구하고 있지만, 실제로 AI 서비스를 구성하는 AI 스택 및 밸류체인 전체를 한 국가가 모두 구현하는 것은 현실적으로 어렵다는 점을 강조합니다. 칩, 대규모 데이터센터와 클라우드, 모델 설계 기술, 인프라 투자가 대부분 미국이나 중국 기업에 의해 지배되고 있기 때문에 단일 국가가 모든 것을 내재화하기에는 비용과 기술적 장벽이 큽니다. 한국 역시 국내 기업들이 투자를 확대하고 있지만 여전히 엔비디아 GPU나 글로벌 클라우드 서비스에 상당 부분 의존하고 있다는 점이 지적됩니다.
• 그래서 여러 국가는 전체 AI 구성요소 전체를 구축하는 대신 자국의 고유한 영역에 집중하는 방식으로 소버린 AI를 시도하고 있습니다. 칼럼에서는 인도는 자국어에 특화된 LLM 개발에 집중하고 농업, 보건, 교육 등 현지 문제 해결에 초점을 맞춘 응용을 소개했습니다. 흔히 버티컬 AI라고 불리는 시도를 칼럼 저자는 대안으로 보고 있는데, 이렇게 하면 외국 기술에 완전히 의존하는 부담을 줄이는 동시에 국가마다 고유한 데이터와 문제에 대응할 수 있는 의미 있는 AI 역량을 확보할 수 있다고 분석합니다. 하지만 메타의 Llama나 알리바바의 Qwen과 같은 오픈 웨이트 모델을 활용하는 때도 해외 기업에 종속되는 문제는 여전히 남아 있습니다.
• 최근 대통령은 기자회견에서 “국제적 단위에서 인공지능의 규범과 윤리를 만드는 데 일정한 역할을 할 수 있을 것”이라고 말했습니다. 하지만, 이 발언은 구체적인 방안이 없었고 최근 정부가 추진하는 규제 해제 및 산업 진흥책과 대조되는 발언입니다. 진정한 소버린 AI라면 기술 패권 경쟁으로 치닫는 미국과 중국의 AI 흐름에 대한 대안적 모델을 만들 수 있어야 합니다. 단순한 AI 진흥책으로는 국제적 단위에서 논의를 이끌 수 없을 겁니다. 파편화된 정책 단편이 아니라 데이터 주체의 권리, 저작권자 보호, 프라이버시 보호 등까지 포괄하는 하나의 주장이 먼저 있으면 좋겠습니다. 그리고 그런 기획하에서 정책 실행과 기술 구현이 같이 진행될 때야 비로소 한국의 소버린 AI가 글로벌 AI 논의에서 영향력을 가질 수 있을 것입니다.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.