말과 행위가 일치하는 곳에서, 말이 공허하지 않고 행위가 야만적이지 않은 곳에서, 말이 의도를 숨기지 않고 행위가 현실을 드러내는 곳에서 권력은 실현된다.
—한나 아렌트 <인간의 조건, p.291>

AI 윤리 뉴스 브리프

2024년 11월 둘째 주
by 💂🏻죠셉

도널드 트럼프가 47대 미국 대통령으로 당선됐습니다. 공화당이 이미 과반수를 확보한 상원뿐만 아니라 (11월 10일 기준) 하원 장악까지도 매우 유력한 상황에서 트럼프 집권 2기의 각종 정책은 이전보다 더 거침없이 실행될 것이라 예상되는데요. 오늘 브리프에서는 트럼프 정부의 향후 AI 정책에 대한 다양한 분석을 갈무리해 보겠습니다.

바이든 정부의 레거시

• 바이든 정부의 AI 정책은 2023년 10월 AI 행정명령(AI Executive Order)을 통해 구체화 됐습니다. 법적 구속력을 가진 연방 차원의 AI 규제로서 헬스케어부터 지적 재산권까지 다양한 영역을 다루며, AI 모델의 훈련과 테스트 과정의 공개 및 딥페이크 콘텐츠 워터마크 표식 등 투명성과 안전을 강화하는 내용을 담고 있습니다. 이 외에도 AI 안전 연구소(AISI)의 설립 등 전체적으로 사회적 영향과 윤리성을 고려한 AI 개발을 기조로 해온 것으로 평가됩니다.
• 특히 지난달 바이든이 서명한 최초의 AI 국가안보 각서(Memorandum)의 경우 국가 안보 기관들의 AI 사용이 누군가의 안전 혹은 권리를 침해할 때에 대한 구체적 가이드라인을 제시합니다. 가령 미국 보훈부(Department of Veterans Affairs)가 산하 병원에서 진단 목적으로 AI를 사용하길 원한다면 해당 기술이 특정 인종에 편향된 결과를 내놓지 않는다는 점을 먼저 증명해야만 합니다.

어떻게 바뀔까: 주요 쟁점

1. 혁신이 최고?

• 트럼프와 그의 측근들은 현 정부의 지나친 AI 규제가 혁신을 저해하고 있다는 입장을 여러 차례 밝힌 바 있습니다. 실제로 트럼프가 대통령직을 수행 중이던 2020년 연방정부 대상으로 전달한 가이드는 ‘혁신과 성장을 저해하는 규제를 피하고 AI 발전을 가로막는 장애물을 줄일 것’을 권고했습니다.
• 이런 맥락에서 ‘바이든의 AI 정책을 되돌릴 것’이라는 트럼프의 공약은 규제의 철폐 혹은 최소화로 이어질 가능성이 높아 보입니다. 그러나 이에 대한 트럼프 최측근들의 다양한 입장은 변수입니다. 가령 규제의 완전 철폐를 주장하는 마크 엔드리슨 (미국 최대 규모 벤처캐피털인 a16z의 수장), 기술의 빠른 발전에 대한 우려를 표해온 터커 칼슨(대표적 친트럼프 방송인), 빅테크 독점을 무너뜨리려는 J.D. 밴스 (부통령 유력), 그리고 기술 발전을 옹호하면서도 AI로 인한 존재론적 위험을 경고하는 일론 머스크 등이 있죠.
• 새 행정명령이 언제 어떻게 발표될지 현재로서는 알 수 없지만, 바이든의 AI 정책이 백지화되더라도 별도의 가이드가 제공되기 전까지는 기존 연방 기관들은 자율성을 발휘해 바이든 정부 시절의 AI 거버넌스를 이어갈 수 있습니다.

2. 표현의 자유?

• 앞서 언급한 다양한 입장의 인물들이 모두 동의하는 지점이 있습니다. 테크 크루즈 상원 의원 등을 중심으로 바이든 정부 AI 정책에서 핵심적인 역할을 하는 NIST(미국 국립표준기술연구소) AI 안전 기준이 형평성과 공정성(equity and fairness)을 지나치게 추구하다 좌편향 되었다는 비판이 제기되어 왔는데요.
• X에서 퇴출당한 이후 ‘표현의 자유’를 지속적으로 언급해 온 트럼프의 AI 정책은 정치적 올바름을 반영해 온 기존의 정책과 반대 방향으로 향할 가능성이 높아 보이며, 심지어 행정명령을 통해 ‘정치적으로 편향’된 알고리즘의 수정을 강제할 수 있다는 예측까지 보입니다.

3. 주 단위 AI 정책의 심화 가능성

• 캘리포니아의 경우 기업이 AI 훈련 데이터와 방법 등을 공개하도록 강제하는 다양한 AI 안전 법안을 제정했으며, 이외에도 AI 기술로 인한 성우들의 피해를 최소화하기 위해 움직이고 있는 테네시주, 그리고 고위험으로 분류되는 AI 시스템의 경우 예상 가능한 알고리즘 차별 위험(foreseeable risks of algorithmic discrimination)을 공개하도록 주법을 제정한 콜로라도 등, 이미 주 단위로 다양한 AI 규제 프레임워크가 만들어지고 있습니다.
• 트럼프가 바이든의 행정 명령을 백지화하면 이미 주 단위로 진행되고 있는 AI 정책이 더욱 파편화되어 복잡성이 증대될 것이라는 예측입니다.

4. 불확실한 오픈 소스 AI의 향방

• 예측이 특히 어려운 영역입니다. 오픈 소스는 미국이 우호적이지 않은 국가들이 이용할 수도 있다는 점에서 자국 중심 경제 성장을 공공연하게 주장해 온 트럼프의 방향성과 상충합니다.
• 하지만 부통령 임명이 유력한 J.D. 밴스는 소수 빅테크의 독점을 반대하는 입장을 가지고 있으며 오픈 소스 AI를 옹호하는 발언을 여러 차례 해왔습니다. 무엇보다 이번 선거에서 트럼프를 공개 지지하며 당선에도 일조한 것으로 평가되는 일론 머스크의 프로젝트인 xAI에서 개발하는 AI 모델 Grok이 오픈 소스를 지향한다는 점에서 향방을 예측하기가 쉽지 않아 보입니다.

윤리적 AI와 이를 위한 규제 프레임워크는 당파성을 초월한 전 지구적 과제입니다. 전속력으로 돌진하려는 기업들과 정부, 학계, 시민사회 사이 균형을 맞춰가는 일은 트럼프가 아닌 누가 당선되었어도 어려운 과제였겠죠. 그런데 기사를 검색하던 중 지난 7월, 트럼프의  측근들이 당선 전부터 이미 맨하탄 프로젝트의 자율 무기 버전을 현실로 만들기 위한 행정 명령을 퇴고 중이었다는 워싱턴 포스트 기사가 눈에 띕니다. 다가올 미래의 서막이 아니길 간절히 바랍니다. AI 안전을 최우선 가치로 홍보해 온 앤트로픽이 팔란티어, 아마존 AWS와 함께 군용 AI 개발을 시작한다는 뉴스가 보도된 이번 주였기에 더더욱이요.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.