정치에서 가장 파국적인 힘은 (중략) 서로 관련이 없는 것을 연결 짓는 권력이다.

- E. E. 샤츠슈나이더, <절반의 인민주권>, p. 131.

우리 좀 규제해달라는 AI 기업들

by 🎶소소

각국 정부가 자꾸 AI 기업 대표들을 불러 모읍니다. AI 경쟁력 향상과 신뢰성 강화를 논의하기 위해 대통령이 주재한 대한민국 초거대 AI 도약 회의에 AI 기업 대표들이 참석했습니다. 지난주 미국 의회는 AI 규제를 논의하기 위한 AI 인사이트 포럼에 빅테크 CEO들을 모았습니다. 정부는 왜 자꾸 기업들을 한 자리에 모으는걸까요?

정부 관계자들은 기술 분야에 대한 전문 지식이 부족할 수밖에 없기 때문에, 전문가의 지식을 들을 필요가 있습니다. AI를 이해하기 위해 업계 의견을 듣는 것은 환영할 만한 일이라고 할 수 있죠. AI의 선도 기술이 대부분 기업에서 개발되고 있기 때문입니다. 또한, 기술을 개발하고 활용하는 주체인 기업의 입장을 고려하지 않고 만든 규제는 현실 적용이 어려울 수 있습니다.

미국 의회에서 연방 정부가 AI를 감독해야 하는지 여부를 묻는 질문에 모든 참석자가 "예”라고 대답했다고 합니다. 몇달 전에도 오픈 AI의 CEO 샘 올트먼은 청문회에 참석해 AI 규제가 필요하다고이야기하기도 했었죠.

막상 법적 소송이 시작되면 막대한 변호사 비용을 들여 잘못이 없음을 주장하는 기업들은 왜 “우리를 규제해달라”고 이야기하는 걸까요?

• 명확한 규제가 기업의 예측 가능성을 높여주기 때문입니다. 규제가 마련되면, 기업은 무엇이 허용되고 금지되는지 명확히 알 수 있습니다. 예측 가능한 환경에서는 사업 전략을 세우기가 더 쉬워지고, 불확실성을 줄일 수 있습니다.
• 공공의 관심을 다른 곳으로 돌릴 수 있습니다. 테슬라 CEO 일론 머스크는 자율주행차보다 AGI의 위험성을 더 대비해야 한다고 말했다고 합니다. 자율주행에 큰 비용을 투자하는 기업 CEO의 솔직한 심정이랄까요.

정책은 사회 전체를 위해 존재해야 합니다. AI 규제 회의 참석자들의 모습을 한 번 볼까요? 미국과 한국의 회의 장면이 너무나 유사하지 않나요? 기술의 진흥과 규제에 대한 논의에는 기업뿐만 아니라 더 많은 이해관계자의 참여가 필요합니다. 그러나 이번 포럼에 초청된 학계 인사는 한 명이었습니다. 🦜지난 레터에서도 미국의 '자율규제안'에 ‘프론티어 모델 포럼’ 참여 기업들만 목소리를 낸다는 사실이 문제임을 이야기한 바 있습니다. 상원의원 조쉬 홀리도 이번 의회의 비공개 포럼이 대중이 참여할 수 없는 데다가 비공개로 진행된 점을 비판했습니다.

‘AI 인사이트 포럼’ 회의 참석자 모습기업은 기업의 이익을 지키기 위한 전략의 일환으로 규제를 이야기합니다. 그러나 AI는 일자리, 보안, 개인정보보호, 사회적 불평등과 같은 사회 구성원 모두에게 영향을 미칠 수 있습니다. AI가 영향을 미칠 수 있는 다양한 이해관계자의 의견이 정책에 반영할 수 있는 통로가 더 많이 마련되어야 합니다.

‘가짜뉴스’를 이야기하는 대통령님을 위한 반성문

by 🍊산디

바야흐로 대한민국의 AI 경쟁력과 신뢰성 강화를 위해 대통령께서 회의를 주재하는 시대입니다. 과연 ‘인간처럼 종합적인 인지, 판단, 추론이 가능한 AI’가 언제 등장할 수 있을지 모르겠습니다만, AI 산업을 육성하고, 국민이 안전하고 믿을 수 있는 AI 서비스를 쓸 수 있는 것은 분명 중요한 일입니다.

예측 가능한 선에서 이루어진 평이한 정책 방향 발표회였다고 생각합니다. 대통령께서 ‘가짜뉴스’에 대한 우려를 언급하시기 전까지는요. 대통령께서는 "전 세계 정치인을 만나면 가짜뉴스가 AI와 디지털을 이용해 빛보다 빠른 속도로 확산하면서 자유민주주의를 훼손하고, 우리 미래를 망칠 수 있다는 얘기를 한다"고 하셨습니다.

AI 정책 방향을 발표하는 자리에서 ‘가짜뉴스’를 언급하는 게 어색한 일은 아니라고 생각하실지 모르겠습니다. 잠깐 언론진흥재단이 제안하는 ‘가짜뉴스’의 정의를 살펴봅시다.* 가짜뉴스: 뉴스 포맷 혹은 언론보도 형식으로 미디어를 통해 유포되는 사실과 다른 정보

• 허위정보: 의도적으로 그럴듯하고 조작된 정보로, 뉴스 포맷에 한정하지 않고 인터넷과 SNS 등을 통해 확산하는 거짓 정보

실제로 AI는 그럴듯하게 조작된 정보, 허위정보를 그럴듯하게 만드는 데 얼마든지 사용될 수 있습니다. 너무 그럴듯해서 허위라는 사실을 눈치채지 못한 채 많은 사람에게 유통될 수도 있습니다.

하지만 AI를 활용해 만들어 낸 정보가 ‘가짜뉴스’는 아닙니다. ‘가짜뉴스’는 사실과 다른 정보 중 언론보도의 형식을 갖춘 것으로 특정되기 때문이죠. 일상 언어 생활에서 우리는 신뢰할 수 없는 모든 정보를 ‘가짜뉴스’라 일컫곤 합니다만, 실제 ‘가짜뉴스’ 관련 정책은 주로 언론에 대한 규제를 지칭합니다.

게다가 ‘가짜뉴스’는 매우 논쟁적인 개념입니다. 오보, 비판, 루머, 풍자 등 다양한 표현 형태와 구분이 어려운 데다가, 언론에 대한 불신을 강화할 수 있기 때문이죠. 연일 ‘가짜뉴스’를 외쳤던 미국의 트럼프 전 대통령이 그러했던 것처럼 정치적 공격을 위한 수단으로 사용되기도 합니다.

한국에서도 ‘가짜뉴스’는 적극적으로 활용되는 프레임이 되었습니다. 검찰은 뉴스타파와 JTBC를 압수수색했습니다. ‘가짜뉴스’를 보도했기 때문이라고 합니다. 여당에서는 네이버 등 ‘가짜뉴스’를 유통한 포털에게 해당 언론사 퇴출을 요구합니다. 방송통신위원회는 가짜뉴스 근절 TF를 만들고 가짜뉴스를 내보낸 매체를 폐간할 수 있는 원스트라이크 아웃제를 도입한다고 합니다. 사정은 지난 정권도 비슷합니다. ‘가짜뉴스 피해를 구제’한다며 언론중재법 개정을 추진했던 게 얼마 지나지 않았네요.

이러한 맥락을 고려하면 “가짜뉴스가 AI와 디지털을 이용해 빛보다 빠른 속도로 확산”된다는 발언은 깊은 고민으로 이어집니다. 자칫 더더더 강력하게 언론을 규제해야 한다는 논거로 AI가 거론될 수 있기 때문입니다. 사람들이 AI를 활용해서 그럴듯하게 이야기와 이미지, 영상을 생성하는 것이 문제라면, 언론을 연상하게 하는 ‘가짜뉴스’라는 표현 대신 ‘허위정보’라는 용어가 더 적합합니다.

대통령께서도 이러한 우려에 충분히 공감하시며, ‘가짜뉴스’라 표현한 것은 다만 국민의 일상적 언어생활을 고려한 것일 뿐, 진의는 허위정보를 말씀하신 거라 생각합니다. AI 정책 방향을 발표하는 자리에서 언론 규제를 역설하신 것은 아니겠지요.

고백하건대, 저 또한 지난 🦜AI 윤리 레터에서 ‘가짜뉴스’라는 표현을 사용했었습니다. 그러니 이 글은 제가 대통령님을 위해 대표로 작성한 반성문인 셈입니다. 잘못된 용어 선택에 충분히 주의를 기울이지 못한 점 사과드립니다. ‘가짜뉴스’와 같은 모호한 표현으로 AI가 언론 규제에 동원되지 않도록 유념하겠습니다.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.