지금 우리는 전 지구적 차원에서 기업집중으로 인한 '거대함의 저주'에 맞닥뜨려 있다.
—팀우, <빅니스>, p. 9.

웅성👥👤마이크로소프트가 책임진대👤👥웅성

by 🎶소소

마이크로소프트가 자사의 생성 AI 서비스를 이용하다가 저작권 침해 문제가 생길 경우 모든 법률 비용을 책임지겠다고 선언했습니다. 생성 AI 관련 저작권 소송이 증가하자, 이용자들이 안심하고 서비스를 이용할 수 있게 하기 위해서라고 합니다. 지난 6월 어도비가 자사 생성 AI 도구를 사용하는 고객의 법적 소송 비용을 지원할 것이라고 선언한 것에 이어 두 번째입니다.

기업들은 왜 생성 AI 서비스의 저작권 침해 문제를 책임진다고 선언하는 걸까요? 아직 AI의 저작권 침해 여부를 판가름할 수 있는 법적 경계가 모호하기 때문입니다. 저작권 침해는 다른 사람의 저작물을 직접 베꼈고, 창작성 있는 표현 요소가 실질적으로 유사하다는 것이 모두 인정되어야 성립합니다. 그런데 AI가 특정 저작물을 직접 베낀 게 아니라, 방대한 데이터를 학습하다 보니 우연히 유사한 산출물이 나온 것이라고 주장한다면요? 참 애매하죠. 여기에 형사처벌과 손해배상을 위해서는 저작권 침해에 고의성이 있었다는 것까지 증명해야 하는데, 이 또한 입증하기 어렵습니다.

이처럼 아직 생성 AI와 저작권에 대한 명확한 법 해석이 없어, 기업의 선언만으로는 충분하지 않을 수 있습니다. 이미 마이크로소프트, 오픈AI 등은 데이터 원작자와 합의 없이 데이터를 학습에 사용했다고 주장하는 소송에 직면해 있습니다. 법이 AI 생성물에 대한 책임을 개발자, 서비스 제공자, 이용자 중 누구에게 물을 것인지 단정하기도 어렵습니다.

물론 기업이 서비스 이용에 대한 책임을 지겠다는 태도는 긍정적입니다. AI 모델 학습에 활용된 데이터에 저작권 침해 문제가 없다고 확신하는 것으로 보이기도 합니다. 어도비는 생성 AI 모델 학습에 자사 이미지, 공개 라이선스 이미지만을 데이터로 사용했기 때문에 문제가 없다고 이야기합니다. 이용자 입장에서도 저작권 침해 걱정 없이 AI를 활용할 수 있다면 더 적극적으로 AI 서비스를 활용할 수 있습니다.

그러나 이런 통 커 보이는 선언이 저작권 침해 문제를 근본적으로 해결하는 것은 아닙니다. AI 서비스 제공자들은 학습에 사용하는 데이터 원작자의 지적재산권을 침해하지 않도록 노력해야 하고, 이를 공개적으로 설명할 수 있어야 비로소 이용자는 안심할 수 있을 거예요.

브뤼셀은 효과를 만들 수 있을까: 디지털서비스법(DSA)

by 🍊산디

최근 빅테크는 EU 디지털서비스법(DSA)으로 떠들썩합니다. DSA는 이용자가 보다 투명하고 책임 있는 디지털 서비스를 이용할 수 있는 환경을 만드는 것을 목표로 합니다. 법 위반 시 연간 전 세계 매출의 최대 6%까지 벌금을 부과할 수 있도록 했고, 아예 서비스 운영을 금지할 수도 있습니다. 규제에 필요한 비용을 규제 기업들에게 수수료를 청구하여 충당하겠다는 계획은 덤입니다.

규제 대상은 EU 시장 내에 매달 4,500만 명 이상의 이용자가 방문하는 대규모 온라인 플랫폼과 검색엔진입니다. 다음의 기업들이 규제받습니다.

• 구글(구글 플레이, 유튜브, 구글 맵스, 구글 쇼핑), 링크드인, 메타(페이스북, 인스타그램), 부킹닷컴, 스냅챗, 애플(앱스토어), 아마존(마켓플레이스), 알리바바(알리익스프레스), 위키피디아, 잘란도, 바이트댄스(틱톡), 트위터, 핀터레스트
• 구글(구글 검색), 마이크로소프트(빙)

DSA는 디지털 서비스 기업에 무엇을 요구할까요?

1. 불법 콘텐츠 삭제

• 국가 당국이나 개인이 통지할 경우 불법 콘텐츠 삭제
• 쉽고 명확한 콘텐츠 신고 기능 제공
• 불법 콘텐츠를 자주 게시하는 이용자는 경고 후 서비스 정지

2. 허위정보 등 유해 콘텐츠 차단

• 콘텐츠 및 광고 추천 알고리즘의 연례 보고서를 위원회에 제출
• 알고리즘 조정 등 식별한 위험 최소화
• 자녀가 보는 내용을 부모가 제어할 수 있도록 하며, 사용자 연령 확인 수단 도입
• AI 생성 사진, 동영상에 워터마크 포함
• 재해, 전쟁, 전염병 등 위기상황 발생 시 허위정보의 확산 방지

3. 사용자 권한 강화

• 이용약관을 이해하기 쉽게 제공
• 콘텐츠 삭제, 노출 제한, 수익 창출 중단 등의 조치 시 이용자에게 해당 사실을 고지하고 그 이유를 안내
• 이용자는 해당 기업, 기관, 법원 등을 통해 기업에 이의를 제기할 수 있음
• 콘텐츠 추천에 활용되는 알고리즘의 매개변수를 설명하고 개인정보를 활용하지 않는 알고리즘을 하나 이상 옵션으로 제공

4. 일부 표적 광고 금지

• 종교, 성적 지향, 건강 정보, 정치적 신념 등 민감한 개인정보를 기반으로 한 표적 광고 금지
• 표적 광고 표시를 목적으로 한 어린이 및 청소년의 개인 데이터 수집 금지
• 이용자가 원하지 않는 개인정보 활용에 동의하도록 유도하는 디자인(다크 패턴) 금지

5. 정보 공개

• 콘텐츠 제공 알고리즘에 대한 정보 공개
• 불법 콘텐츠 제거에 활용되는 AI의 오류율 공개
• 언론의 자유, 공중 보건 및 선거에 대한 위협 등 사회에 미칠 수 있는 심각한 위험을 어떻게 제거했는지 그 평가보고서와 감사보고서 제출
• 플랫폼이 노출한 광고의 광고주, 계약정보 등을 명시한 정보 저장
• 규제 기관은 특정 프로젝트에 대한 내부 데이터, 알고리즘에 접속할 수 있으며, 사무실을 조사하거나 관련 문서 제공을 요구할 수 있음

구글, 메타 등 일부 기업들은 이미 DSA 준수 계획을 발표했습니다. DSA 시행으로 광고, 사진 및 동영상 콘텐츠, 검색 시장에 흥미로운 소식이 많을 듯하네요. 연말이 되면 이들 기업의 위험성 평가도 살펴보게 될 것 같고요. 종종 여기로 돌아와서 이야기해 드리겠습니다.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.