면책. 면책. 더 많은 면책.
사고 이후 무인 운항에 관한 규칙은 소폭 수정됐을 뿐, 초지능은 여전히 누군가를 하늘에 띄웠다.

—청예, <라스트 젤리 샷>

AI 윤리 뉴스 브리프

2024년 1월 셋째 주
by 🎶소소

안녕하세요. AI 윤리 레터 독자 여러분. 2024년 새해 복 많이 받으세요. 올해도 AI 윤리를 고민하는 뉴스레터는 계속됩니다. 늘 그랬듯 여러분의 유머와 용기, 따뜻함으로 함께해주세요.

올해 첫 번째 레터는 한 주간의 AI 윤리 소식을 짧게 전하는 뉴스 브리프(Brief)로 시작합니다. 앞으로 매주 월요일은 이렇게 브리프로 여러분을 만날 예정입니다.

1. 안중근이 ‘테러리스트’라는 AI (링크)

• 워싱턴대 최예진 교수가 AI의 도덕관 편향 문제를 지적했습니다. 현재의 AI는 서구의 가치관이 과도하게 반영되어 있어, 세계의 다양한 문화권을 이해하지 못한다는 것이죠.
• 예를 들면, 쌈을 싸 먹는 한국 문화에 대해 ‘손으로 밥을 먹는 미개한 문화’라거나, 안중근 의사가 ‘테러리스트’라고 답한다면 어떨까요? 다양한 문화를 이해하지 못하는 AI는 문화·인종 차별로 이어질 수 있습니다.
• 그래서 AI도 윤리 교육이 필요합니다. 교육을 위해서는 여러 문화권 사람들이 공통적으로 허용할 수 있는 가치관에 대한 논의가 선행되어야겠죠.

2. 미드저니가 훔친 작품의 작가 명단 (링크)

• 생성 AI 이미지 서비스 미드저니, 스태빌리티AI 등과 예술가 집단의 저작권 소송에 4,700여 명의 예술가 명단이 제출되었습니다.
• 이 명단은 미드저니가 동의 없이 데이터로 사용한 작품의 작가 명단입니다. 작가의 작품들은 동의 없이 데이터로 사용되었을 뿐만 아니라, 하나의 '스타일'로 취급되었습니다.
• 미드저니로 생성한 이미지가 저작권이 있는 원본과 거의 유사하다는 사실은 이미 여러 번 입증되었는데요. 이것은 우연이 아니었습니다. 미드저니는 소송도 감수할 생각으로 다양한 작가들의 작품을 AI 학습 데이터로 사용한 것으로 보입니다.

3. 뉴욕타임스 소송에 대한 오픈AI 입장문 (링크)

• 오픈AI가 뉴욕타임스가 제기한 소송에대한 입장을 밝혔습니다. 이 소송은 수백만 개의 뉴욕타임스 기사를 무단으로 AI 훈련에 사용했다는 내용인데요. 이에 대해 오픈AI는 인터넷상 자료를 AI 학습에 사용하는 것은 공정이용이며, 뉴욕타임스가 발견한 오류는 의도적으로 만들어 낸 비정상적 오류라라고 주장합니다.
• 이에 대한 전문가들의 지지와 반대 의견이 갈리는 이유는 AI가 학습 데이터를 기억하여 재생산하는 표절물이 얼마나 자주 나타나는지, 정확히 어떤 상황에서 발생하는지 정확히 알 수 없기 때문입니다. 진실은 오픈AI만 알 수 있겠죠.
• 저는 오픈AI가 이용자의 문제 제기를 ‘오용(misuse)’이라는 용어로 제한한다고 느꼈습니다. 앞으로는 어떤 문제 제기도 오용이라는 틀로 대응할 테니까요.

4. 콜센터 AI 도입과 상담 인력 감축 (링크)

• KB국민은행이 콜센터에 AI를 도입하면서 상담 직원의 인력감축을 시작했습니다. 콜센터 문의가 줄었다는 이유입니다.
• 콜센터 문의는 왜 줄었을까요? 고객들은 콜센터에 도입된 AI가 불편하기 때문입니다. 특히 어르신들은 여러 번 시도 끝에 포기하거나, 어쩌다 상담원이 연결되면 ‘사람 맞냐’며 화를 내기 일쑤라고 합니다.
• 상담원을 돕기 위해 AI를 도입했는데, 그 때문에 상담원이 줄어 오히려 업무 난이도는 높아졌다고 하네요. AI로 인한 고용 시장의 변동은 한동안 이어질 것으로 보입니다.

5. 마이크로소프트와 오픈AI, EU 반독점법 조사 물망에 (링크)

• 유럽위원회가 마이크로소프트와 오픈AI의 투자 관계가 사실상 합병 관계에 해당하는지에 대한 조사 의지를 내비쳤습니다. 영국도 지난달 두 기업의 파트너십에 대해 조사하기로 했다는 입장을 밝힌 바 있습니다.
• 이번 조사는 작년 오픈AI의 CEO 샘 올트먼의 해임과 복귀 소동 여파로 추정됩니다. 마이크로소프트가 오픈AI 경영에 개입하는 것으로 보였기 때문입니다. 사실상 합병 관계는 아닌지, 이것이 시장 경쟁에 영향을 미치는 반독점법 위반 소지는 없는지 보겠다는 것입니다.
• 소수의 AI 기업이 전 세계에 미치는 영향력에 대한 우려가 커지고 있습니다. 시장이 경쟁력을 유지하기 위해서는 소수의 기업이 시장을 독점하지 않는 것이 중요합니다.

6. 선거운동에 AI 콘텐츠 사용 전면 금지 (링크)

• 공직선거법 개정으로 선거일 90일 전부터는 선거운동에 ‘실제와 구분하기 어렵게 만든 가상의 AI 딥페이크 콘텐츠’를 활용하는 것이 전면 금지되었습니다. 올해 4월 총선에서는 지난 대선에 등장했던 'AI 윤석열', 'AI 이재명'을 볼 수 없게 됐습니다.
• 선거 기간 딥페이크를 악용한 허위 정보가 확산될 수 있음을 우려한 것입니다. 전문가들과 이해당사자인 AI 업계도 규제 필요성에는 적극 공감했습니다.
• 그러나 개정된 선거법에 실효성이 있을지는 의문입니다. 이미지를 보정하는 포토샵에도 AI 기능이 활용되는데, 어디까지 위법인지에 대한 기준이 아직 명확하지 않은 실정입니다.