(계엄령을 뚫고 온) AI 기본법 톺아보기

비상계엄 소식에 놀란 마음을 가라앉히고, 천천히 법안을 읽어보아요

🤔어쪈

2024년 12월 4일 — 10 min read

AI의 발전 노정에서 파괴적인 길목을 피하게 하고 공존과 번영의 길로 인도해 줄 나침반이 바로 AI 윤리다.
—목광수, <인공지능 개발자 윤리>

목차
1. AI 기본법 주요 내용 정리

💌 AI 윤리 레터 응원하러 가기 💌

AI 기본법 주요 내용 정리

by 🤔어쪈

월요일 레터에서 전해드렸던 대로 AI 기본법 제정이 초읽기 단계에 들어섰습니다. 연내 제정과 내년 시행이 예상되고 있는 가운데 법안이 어떤 내용을 담고 있는지 보다 자세히 살펴보는 시간을 가져봅니다. (법안 전문은 여기서 찾아볼 수 있습니다.)

용어 정의

AI 기본법의 “인공지능시스템” 정의는 EU AI 법을 거의 그대로 옮겨왔습니다. 이전에 소개했던 OECD의 정의를 계승하는 것이기도 합니다. OECD나 EU와 달리 “인공지능”을 별도로 정의하며 사전에서 찾아볼 수 있는 통상적인 설명을 차용했고, 이에 따라 AI 기본법 상의 인공지능의 의미는 ‘인간 지능’에 기반을 두게 되었습니다. 다만 법안에서 언급하는 인공지능은 대부분 “인공지능시스템”을 지칭하기 때문에 별다른 의미가 없어보이기도 합니다.
AI를 둘러싼 부정적 인식을 덜어내기 위해 ‘고위험’ 대신 채택한 “고영향 인공지능”은 EU를 비롯한 해외 법률과 마찬가지로 인간 생명과 신체 안전, 기본권에 대한 영향과 위험을 기준으로 판단합니다. 시행령에 의해 목록이 추가될 수 있긴 하지만 수사 및 체포 목적의 생체인식이나 채용, 대출 심사, 학생 평가 등은 별도로 명시한 것에 비해 사법·행정부의 심판, 선거 및 투표, 무기가 언급되지 않은 점은 다릅니다. 오히려 국방, 국가안보 목적의 인공지능은 기본법을 적용하지 않는다는 예외 조항을 두고 있기도 합니다.
또한 “생성형 인공지능”을 별도로 정의하고 있으나 명확하다고 보기는 힘듭니다. 업계에서 쓰는 의미와 동일하게 해석할 수도 있겠으나 법안에서 생성형 인공지능에 대한 별도 규제를 명시한 만큼 논란이 발생할 수 있습니다.
그 외로 해외 유사 법안을 따라 “인공지능사업자”를 개발사업자와 이용사업자로 나누어 정의했으나 기본법 안에서는 이 구분을 적용하는 조항은 없습니다.

⚖️

원문
- 인공지능시스템: 다양한 수준의 자율성과 적응성을 가지고 주어진 목표를 위하여 실제 및 가상환경에 영향을 미치는 예측, 추천, 결정 등의 결과물을 추론하는 인공지능 기반 시스템

- 인공지능: 학습, 추론, 지각, 판단, 언어의 이해 등 인간이 가진 지적 능력을 전자적 방법으로 구현한 것

- 고영향 인공지능: 사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템

- 생성형 인공지능: 입력한 데이터의 구조와 특성을 모방하여 글, 소리, 그림, 영상, 그 밖의 다양한 결과물을 생성하는 인공지능시스템

거버넌스 수립

AI 기본법은 국가인공지능위원회를 중심으로 국가 AI 거버넌스를 구성하고자 합니다. 민간위원이 과반수 이상 참여하는 이 위원회는 3년 주기로 ‘기술 및 산업 진흥과 국가경쟁력 강화를 위한’ 인공지능 기본계획을 심의 및 의결하는 역할을 갖습니다. 뿐만 아니라 연구개발 및 투자 전략, 규제 개선과 고영향 인공지능 규율 등 사실상 모든 영역의 AI 정책을 논의하고 결정합니다.
참고로 국가인공지능위원회는 관련 시행령을 근거로 이미 지난 9월 출범한 바 있습니다. 민간위원으로 위촉된 인원은 총 30명인데, 이 중 대부분은 교수이거나 기업인입니다.

upload in progress, 0 — 12월 4일 현재 아직 오픈 준비중인 국가인공지능위원회 웹사이트 갈무리

기술 개발 및 산업 육성

AI 기본법을 괜히 산업 진흥에 치중한 법안으로 해석하는 것이 아닙니다. 아래와 같이 법안의 상당 부분이 기술 개발과 활용을 위한 각종 시책을 마련하는 데에 내용을 할애하고 있습니다.
학습용데이터 관련 시책 수립: 정부는 AI 학습용데이터의 생산부터 활용까지의 전 과정을 촉진하기 위해 통합제공시스템 구축사업을 추진하고 각종 지원사업을 선정하여 예산을 투입할 수 있습니다.
그 외 산업 활성화를 위한 각종 시책: 정부는 AI 융합 연구개발과제를 우선 반영 및 추진할 수 있고 실증규제특례를 지원하며, 해외 전문인력 확보와 국제협력 및 해외시장 진출, 데이터센터 구축 및 운영 지원 시책을 마련해야 합니다.

AI 윤리 및 안전성·신뢰성 확보

법안은 지난 2020년 말 발표한 바 있는 인공지능 윤리원칙의 법적 근거를 마련했으며, 해당 원칙 준수를 위해 대학이나 기업 등의 기관에서 민간자율인공지능윤리위원회를 설치할 수 있다고 규정하고 있습니다. 의무 조항은 아니기 때문에 어느 정도의 실천이 뒤따를지는 의문입니다.
또한 안전과 신뢰 기반 조성을 위한 여러 시책 마련을 규정하고 있지만 실질적으로 시행 예정인 제도로는 검증 및 인증 활동뿐입니다.

고영향·생성형·초거대 AI 규제

사업자는 고영향 인공지능 또는 생성형 인공지능을 이용한 제품 및 서비스를 제공할 때 그에 대한 사전 고지 의무를 지게 됩니다. 특히 생성형 인공지능에 의한 결과물이나 이른바 '딥페이크'라고 불리는 실제와 구분하기 어려운 결과물을 제공하는 경우 AI에 의한 생성 사실을 이용자가 명확히 인식하도록 별도로 표시를 해야 합니다. 에술이나 창의적 표현과 같은 예외 사례나 구체적인 표시 방식 등은 시행령에서 정하도록 하고 있습니다.
'학습에 사용된 누적 연산량'을 기준으로 초거대 AI를 운용하는 사업자는 위험 평가 등 안전성 관리체계를 마련해야 합니다.
사업자는 인공지능 제품 및 서비스 제공에 앞서 고영향 인공지능 해당 여부를 사전에 검토해야 하고, 해당하는 경우 보다 다양한 위험 및 안전 관리 조치를 시행해야 합니다. 여기에는 학습용데이터 개요와 결과 도출 기준에 대한 설명을 요구하는 내용도 포함되어 있지만 '기술적으로 가능한 범위 내'로 한정지어 불명확성을 남겨두고 있습니다.

비상계엄이 선포 후 약 2시간 48분만에 법적으로 무효화된만큼 AI 기본법 역시 예상대로 연내 처리가 될 것으로 보입니다. 졸속처리라는 비판과 고영향 AI에 대한 규제 실효성이 부족하다는 비판이 있는가 하면 각종 의무 규정이 모호하거나 중복 내지는 과잉 규제에 해당한다는 우려를 제기하는 목소리도 있습니다. 약간의 해석을 곁들였지만 AI 윤리 레터 구독자 여러분도 직접 살펴보며 이 법안이 AI ‘기본’법으로 불려도 괜찮을지, 부족한 점은 없는지 생각해보는 시간을 가져보시기 바랍니다.

윤석열 대통령이 2024년 12월 3일 23시 선포한 비상계엄은 민주사회에서 용납할 수 없는 위헌적 조치이자, 헌법이 보장하는 언론·출판·집회·결사의 자유를 제한하려는 시도입니다. 간밤 대통령이 비상계엄 해제를 선언한 것은 다행이지만 계엄이 선포된 것 자체가 있어서는 안되는 일로, 🦜AI 윤리 레터는 이러한 계엄선포를 규탄합니다.

아울러 민주주의가 위협받는 지금, 우리 모두가 허위정보를 경계하는 기민함을 지녀야겠습니다. 이미지가 AI로 생성된 것은 아닌지, 시간과 맥락이 다른 사진이 이번 사태와 관련해 유통되는 것은 아닌지 살펴보고 텍스트로 된 내용 역시 재차 신뢰할 만한 출처 여부를 확인해야 합니다.