데이터 추출과 훈련 데이터 집합 구축의 관행은 이전에 공유재의 일부이던 것을 수집하여 상업적으로 이용하는 행위를 전제한다. 이 특수한 형태의 침해는 은밀한 사유화이며 공적 자산으로부터 지식 가치를 추출하는 행위다. ... 이것은 공적 공간의 약탈이다.
—케이트 크로퍼드, 노승영 역, <AI 지도책> (소소의책, 2022), 143-4

AI 윤리 뉴스 브리프

2024년 7월 넷째 주
by 🤖아침

1. 생성형 AI 가성비를 의심하는 골드만삭스

• 지난달 골드만삭스에서 “생성형 AI: 지출은 너무 많고 혜택은 너무 적은가? (Gen AI: too much spend, too little benefit?)”라는 제목의 보고서를 내놓았습니다. 생성형 AI가 비용이 많이 들어가는 기술인 데 비해 수익이나 생산성 측면의 이득이 얼마나 될지 회의적이라는 내용입니다.
• 보고서에서 인터뷰한 대런 아세모글루(Daron Acemoglu)는 AI가 거시경제에 미칠 영향이 미미할 것이라고 전망합니다. 기술낙관론(기술 발전에 따른 비용 절감 및 성능 개선으로 생산성이 자연스레 높아질 것이라는 관점)에 대해서도 “’AI 성능이 두 배가 된다’는 게 무슨 뜻인가? … 격식 없는 대화에서 다음 단어를 예측하는 능력이 GPT 다음 버전에서 향상될 수는 있겠지만, 그렇다고 상담원이 고객의 문제를 해결하는 능력이 꼭 개선되는 건 아니다“라며 의문을 제기합니다.
• 골드만삭스 연구총괄 짐 코벨로(Jim Covello)는 “오늘날 AI를 초기 인터넷과 비교하는 사람들이 많지만, 인터넷은 초창기에도 저비용 기술이었다”라며, 향후 몇 년 사이 인프라 비용으로만 1조 달러가 투입될 것으로 예측되는 생성형 AI의 투자 대비 수익률에 회의적인 시선을 보냅니다. 투자를 합리화하려면 AI로 복잡한 문제를 해결할 수 있어야 하는데, 현재 AI는 복잡한 문제를 해결하도록 설계된 기술이 아니라는 것입니다.
• 맥킨지에서 생성형 AI의 부가가치가 4조 달러에 달할 것이라는 희망찬 보고서를 발표한 것이 불과 1년 전인데요. 금융 분야의 큰손이자 불과 두 달 전만 해도 AI의 경제적 효과를 낙관하던 골드만삭스에서 비교적 부정적인 전망을 내놓은 데서, AI를 둘러싼 거품이 조금씩 꺼지는 분위기를 읽을 수 있습니다.

2. 깃허브 코파일럿 소송에서 저작권법 쟁점 기각

• 생성형 AI 관련 주요 법적 쟁점 하나는 저작권이죠. 그 중에서도 이목을 끄는 사건으로 깃허브 코파일럿(GitHub Copilot) 관련 소송이 있습니다. 코딩 보조 툴 코파일럿을 제작하는 과정에서 개발자들의 코드를 활용한 것이 불법이라는 취지로, 오픈소스 개발자들이 깃허브, 마이크로소프트, 오픈에이아이 세 기업을 상대로 2022년 미국에서 제기한 소송입니다.
• 최근 소송을 건 개발자들에게 불리한 판결이 나왔습니다. 코파일럿에서 추천하는 코드가 원본 코드와 동일하지 않다고 보아 미국 저작권법(DMCA) 관련 쟁점을 전부 기각한 것입니다. 다만 코파일럿 측의 행위가 (오픈소스 코드를 재사용할 때 명시해야 하는) 원저작자·저작권 고지·라이선스 등을 생략하거나 오도하여 오픈소스 라이선스에 저촉되며, 깃허브 개인정보 처리방침 및 이용약관을 위반했다는 쟁점 두 가지는 아직 열려 있습니다.
• 아직 법적 회색 지대인 생성형 AI 저작권 이슈에서 코파일럿 소송은 상징적 판례가 될 수 있습니다. 물론 이후에도 분쟁은 생길 것이고, 국가별 저작권법에 따라, 분쟁이 발생한 분야에 따라 그 양상은 조금씩 다르겠지요.
• 이 소송의 향방도 중요하지만, 일련의 저작권 분쟁에서 드러나는 큰 그림 또한 놓치지 않아야 하겠습니다. 기존에 공개·공공적으로 존재하던 데이터를 포획해서 특정 기업의 것으로 사유화하는 AI 산업의 속성 말입니다.

3. 국민의힘 인공지능법안에 관한 시민사회의 우려

• 한국에는 아직 인공지능 기술에 관련된 체계적 법이 없습니다. 현 정부에서 입법을 추진했지만 지난 21대 국회에서는 통과되지 않았는데요. 22대 국회가 시작한 지 두 달 사이 6개 AI 법안이 발의되는 등 입법 논의에 속도가 붙고 있습니다.
• 한편 시민사회에서는 현재 추진 중인 법안, 특히 국민의힘 소속 의원 전원이 이름을 올린 정점식 의원 발의안이 인공지능의 위험을 줄이고 예방하는 일에 소홀하다고 우려합니다. 산업 진흥에만 초점을 맞추며, 위험성을 통제하고 피해에 대한 책임을 명확히 하는 문제는 마치 산업 발전의 발목을 잡는 것처럼 외면하고 있다는 것입니다.
• 최근 14개 시민단체가 공동으로 발표한 의견서는 EU 인공지능법 및 미국 AI 행정명령 등을 참고하여 앞선 여당 발의안을 비판적으로 검토하고 있습니다. 주요 쟁점은 안전과 인권 규제의 부재, 고위험 인공지능 규제의 부재, 범용 인공지능 관련 내용 부재, 금지/처벌 조항 부재, 그리고 과학기술정보통신부 및 대통령 산하 국가인공지능위원회에 지나치게 집중된 거버넌스 구조 등입니다.
• 인공지능법에 어떤 내용이 담겨 통과되는지에 따라 향후 AI 산업뿐만 아니라, 우리 모두의 삶과 AI 기술이 맺는 관계의 양상이 달라지게 됩니다. 더 많은 이들이 시민으로서 관심을 갖고 해당 논의에 참여해야 할 이유입니다. 입법 과정에서 국회 및 시민단체가 진행하는 각종 토론회 및 공청회에서 구체적으로 어떤 이야기가 오가는지 직접 확인하는 것도 하나의 방법입니다.

4. 인권위의 인공지능 인권영향평가 도구

• 국가인권위원회에서 “인공지능 인권영향평가 도구”를 만들었습니다. AI 시스템을 개발 및 활용할 때 사람들에게 미칠 수 있는 부정적 영향을 점검하고 예방하기 위해 사용 가능한 체크리스트입니다.
• 아직 AI 관련 법규제가 없는 상황이지만, 각 영역에서 AI 기술을 도입하려는 움직임은 활발합니다. 이런 상황에서 공공기관이나 고위험 AI를 도입하는 민간 주체가 기술 위험을 완화하기 위해 자율적으로 사용하도록 위 도구를 제안한 것입니다.
• 산업 촉진 일변도인 행정부 방향성과 비교해, 인권위는 2022년 AI 인권 가이드라인을 마련해 제시하는 등 균형잡힌 접근을 강조해왔습니다. 이와 같은 접근이 실제 정책으로도 반영될 수 있기를 기대해봅니다.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.