"차별받은 적 없어요"라고 이야기하는 순간, 내가 겪은 차별뿐 아니라 세상에 버젓이 존재하는 차별까지 지워버리는 효과가 나타난다. 그런 식으로 말하는 것은 무책임한 일이다.
—제현주, <일하는 마음>

AI 윤리 뉴스 브리프

2025년 4월 둘째 주
by 🤔어쪈

1.이제서야, 그리고 이제부터

지난 4일 많은 사람들이 무려 123일간 기다려왔던 헌법재판소의 윤석열 파면 선고가 있었습니다. 비상계엄 선포 당일 크게 충격을 받은 AI 윤리 레터 필진분들과 당장 다음 날 예정된 레터 발송 여부부터 어떤 내용으로 입장을 표명할지 등을 급히 의논했던 기억이 납니다. 다행히 하룻밤 사이에 계엄이 해제되어 AI 기본법 요약본을 정리하여 보내드렸죠.

탄핵까지 이토록 오래 걸릴 줄은 전혀 예상하지 못해 여러모로 괴로운 시간이었고, 구독자분들도 마찬가지였으리라 짐작해봅니다. 선고기일이 정해지고서부터 우후죽순 쏟아져 나온 ‘AI에게 물어보니…’류 기사들과 심지어 ‘AI가 적중한 파면 결정’과 같은 기사를 보며 마음이 착잡해지기도 했고요. 갈 길이 멀다는 생각과 함께 간략한 국내 동향을 살펴봅니다.

• AI 기본법 시행령 초안 발표가 임박했습니다. 정부가 산업 진흥에 초점을 맞추겠다는 입장을 여러차례 밝혔음에도 불구하고 업계에선 규제로 작용할 수 있다는 우려 목소리를 높이고 있습니다. 시민사회의 목소리가 얼마나 담길 수 있을지 의문입니다.
• 정보통신정책연구원(KISDI)에서 <인공지능 산업계 실무자를 위한 인공지능 윤리>를 발표했습니다. 웹상에서 전문을 살펴볼 수 있도록 PDF 파일이 아닌 GitBook으로 공개하여 접근성에 신경을 쓴 모습입니다. AI 업계에 종사하는 개발자를 포함한 실무자 대상으로 쓰인 교육자료인만큼, 수시로 최신화와 개선이 이뤄지기를 기대해봅니다.

• 요즘 들어 유독 대학교 학과·학부 이름에 AI가 많이 보인다고 느끼셨나요? 딩동, 정답입니다. 연관도가 높은 기존 컴퓨터과학·공학과나 통계학과만 간판을 바꾼 것이 아니라 물류나 항공 분야부터 인문사회과학 분야까지 AI를 내세우고 있죠. 내실있는 교육보다 정원 확대와 재정지원 확보 목적의 마지못한 미봉책이라는 지적을 피하기 어려워보입니다.

2.이게 다 트럼프 때문이라고(?)

챗GPT의 지브리 스타일 이미지 생성 기능을 두고 떠오른 불편한 감정과 생각을 묻는 글에 정말 많은 분들께서 의견을 남겨주셨습니다. 조만간 여러분이 들려주신 이야기들을 소개해드리면서 우리가 무엇을 문제라고 인식하는지, 나아가 기업과 정부, 또 사용자에게 요구할 AI 윤리에 대한 논의로 이어가도록 하겠습니다.

오늘은 이른바 ‘지브리 AI’가 챗GPT를 통한 유행 이전에 이미 도래한 과거의 기술이라는 지점을 짚는 것에서 출발해보려고 합니다. AI 기술로 특정 스타일의 이미지를 생성하거나 편집할 수 있다는 사실은 일반인에게도 전혀 새롭지 않습니다. 우리나라에서 미국 졸업앨범 풍으로의 AI 이미지 편집 기능이 유행을 탔던 것이 벌써 1년반 전입니다. 그럼에도 불구하고 왜 이제서야 전세계적인 유행이 되고, 또 동시에 비판적인 담론이 형성되었을까요?

그건 이미 수억명의 사용자를 확보하고 있던 챗GPT를 서비스하는 오픈AI에서 이 기술을 본격적으로 상용화하기로 결정했기 때문입니다. 오픈AI CEO 샘 알트만은 챗GPT의 이미지 생성 기능 개편을 발표하며 “창의적 자유를 허용하는 새로운 수위표 기준(a new high-water mark for us in allowing creative freedom)”을 세웠다고 자축했습니다. 뒤이어 오픈AI의 모델 행동(model behavior) 책임자라고 밝힌 조앤 장(Joanne Jang) 역시 자신의 블로그를 통해 콘텐츠 생성 정책을 왜, 그리고 어떻게 완화했는지 부연했습니다. 표현의 자유(freedom of expression)라는 용어를 직접 쓰진 않았지만 창의적 자유, 사용자 자유 등을 언급했죠. 요컨대 명백히 의도된 논란이라는 의미입니다.

오픈AI의 움직임은 트럼프 정부의 AI 정책 방향과도 궤를 같이 합니다. 백악관은 지난 1월 바이든 정부의 AI 행정명령 철폐와 함께 이를 대체하는 행정명령에서 ‘이데올로기적 편향’과 ‘기획된 사회 의제’로부터 자유로운 AI 시스템 개발을 강조했습니다. 미국 AI안전연구소 상위 기관인 표준기술연구소는 참여 연구진에 요구되는 역량에서 AI 안전성이나 공정성이라는 표현을 삭제했죠. 오픈AI를 비롯한 AI 기업들이 여기에 발맞춰 그간 발표한 각종 문서의 표현을 슬그머니 바꿔도 전혀 이상한 상황이 아닙니다. AI 윤리가 기술이나 도덕 뿐만 아니라 정치적 문제이기도 하다는 사실을 잘 보여주죠.

덧. 이와중에 트럼프 정부가 지난 4일 발표한 기상천외한 국가별 관세 계산법은 그 출처가 AI라는 의심을 사고 있습니다. AI가 국제 무역과 정치를 뒤흔드는 시대에 오신 여러분을 환영합니다.

3.대중의 불안과 전문가의 기대 사이

미국 퓨 리서치 센터(Pew Research Center)에서 작년 8~10월 진행한 설문조사를 바탕으로 미국 내 대중과 전문가 간 AI에 대한 인식이 어떻게 다르고 같은지를 분석한 결과를 발표했습니다. AI가 미국 사회에 긍정적인 영향을 가져올 것인지, 또 본인에게 유익할 것으로 보는지 묻는 질문에 5000여명의 일반인 중에서는 부정적인 의견을 표한 사람이 가장 많았습니다. 약 100인의 전문가가 대부분 긍정적으로 답한 것과는 판이한 반응이었죠.

전체적으로 AI 전문가가 대중에 비해 긍정적인 영향을 기대하는 비율이 높았습니다. 분야별로 살펴보면 일하는 방식, 경제, 의료, 교육에서는 두 그룹의 관점이 크게 벌어진 반면 선거나 언론, 사법, 인간관계나 환경에서는 두 그룹 모두 부정적인 영향을 우려하는 모습이었습니다. 전문가와 대중 모두 과반수가 미국 정부의 AI 규제가 과하기보다 부족해서 문제라고 생각한 점은 반년이 지난 지금 현실이 되었죠.

몇가지 흥미로운 결과도 엿볼 수 있었습니다. AI 설계에서 백인 남성의 관점이 과대대표될 것으로 보는 사람의 비중이 전문가 그룹에서는 압도적으로 높았던 반면 일반인에서는 크게 높지 않았습니다. AI 전문가들 중에서도 유독 성별에 따른 인식차가 크게 나타났는데, 남성이 여성에 비해 훨씬 낙관적인 답변을 내놓았습니다. 여러모로 AI 정책을 만들 때 특정 집단의 전문가에게만 의존해서는 안되는 이유를 잘 보여준 조사 결과였습니다.

4.한국의 AI 민주적 가치 지수 1등급 비결

미국의 비영리단체 인공지능 디지털 정책센터 (Center for AI and Digital Policy, 이하 CAIDP) 에서 2021년부터 매년 발표해 온 AI와 민주적 가치 지수(AI and Democratic Value Index; 이하 AIDV)의 2025년(2024년 기준) 보고서가 공개되었습니다. 80개 국가 중 한국은 일본, 캐나다, 네덜란드, 영국과 함께 최상위에 해당하는 1등급을 받았습니다. 4년 연속 높은 평가를 받은 비결이 뭘까요?

CAIDP는 AIDV의 목적이 국가별 AI 정책 동향을 기록하고 추적하여 비교평가를 통해 전세계적으로 민주적 가치에 기반한 AI 정책이 집행되도록 촉진하는 데에 있다고 밝혔습니다. 때문에 평가 근거와 기준 역시 개별 국가의 AI 정책 문서를 바탕으로 OECD AI 원칙이나 UN 세계인권선언, UNESCO AI 윤리 권고를 이행하는지가 주를 이룹니다. 기술 역량이나 도입 수준을 평가하기 위한 다른 지수들이 논문 또는 특허 수, 투자규모 등을 근거 데이터로 활용하는 것과 대비되죠.

AIDV는 앞서 언급한 내용 외로도 국가 AI 정책 수립에 시민 참여를 보장하는지, 관련 문서가 대중에 공개되는지 등을 두고 평가가 이뤄지지만 다소 형식적인 기준이 주를 이룹니다. 모든 국가의 AI 정책을 망라하는 AIDV의 특성상 시민 참여의 효과나 정책 문서의 접근성과 같은 실질적인 내용을 심층 분석한 비교 결과가 아니라는 점에 유의해야하죠. 1등급이라는 결과를 평가절하할 필요는 없겠지만, 표면적인 성과 이상으로 민주주의 가치를 반영하는 AI 정책 실천 노력이 뒷받침되면 좋겠습니다.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.