대규모 데이터가 손쉽게 수집되고 복제될 수도 있고, 다양한 목적으로 분석될 수도 있고, 이에 기초하여 고도의 프로파일링이 이루어질 수도 있는 반면에, 정보 주체의 입장에서는 개인 정보의 처음 수집 단계에서부터 '알고 하는 동의'를 하기가 점점 더 어려워지는 것이 현실이다. 또한 자신에 관한 데이터가 일단 수집된 후 어떤 경로를 거쳐 어떻게 분석이되어 자신에 대한 어떤 판단에 영향을 미치게 되는지 구체적으로 파악하기도 매우 어렵다.
— 고학수, 임용 편, <데이터오너십>

AI 윤리 뉴스 브리프

2025년 7월 넷째 주
by 🧙‍♂️텍스

개인정보 동의없이 학습한 AI챗봇 이루다, 최대 40만원 배상 판결

• 중앙일보 기사는 과거 한국 사회에 큰 사건이었던 AI 챗봇 이루다 판결에 대해서 다루었습니다. 서울동부지법 민사 15부는 이루다 개인정보 유출 사건에서 원고 일부 승소를 인정하며, 피해자 246명 가운데 실제 개인정보 유출이 확인된 26명에게 10만 원, 민감정보까지 유출된 23명에게 30만 원, 두 범주 모두에 해당하는 44명에게는 최대 40만 원의 위자료를 지급하라고 판결했습니다.
• 이번 판결은 AI 학습용 데이터로 무단 사용된 개인정보에 대해 손해배상을 인정한 첫 사례입니다. 재판부는 스캐터랩이 연애 심리 분석 앱 연애의 과학 및 텍스트앳 이용자가 올린 카카오톡 대화 94억 건과 회원 정보 일부(약 60만 명)를 챗봇 개발에 활용하면서 정보 주체에게 구체적으로 알리거나 동의를 받지 않아 개인정보보호법을 위반했다고 판단했습니다. 스캐터랩 측은 2020년 데이터 3법 통과 이후 개인정보보호법에 추가된 가명 정보의 처리에 관한 특례를 근거로 가명 정보를 과학적 연구에 사용했을 뿐이라고 항변했습니다.
• 하지만, 법원은 가명 처리가 불충분했고 상업적 서비스 개발은 과학적 연구에 해당하지 않는다고 보았습니다. 이는 과거 2011년 개인정보보호위원회 이루다 제재 처분 해석의 연장선에 있습니다. 과학적 연구 목적의 허용범위에 대한 한 해석을 보면 가명 정보 된 카카오톡 대화를 통해 이루다를 만든 것 자체는 과학적 연구로 볼 수 있는 여지가 있지만, 이루다를 활용한 상업적 대화 서비스는 과학적 연구에 해당하지 않는다고 판단 내렸습니다.
• 스캐터랩이 항소를 예고한 가운데, 향후 재판 결과가 AI 및 개인정보 규제에 중요한 선례가 될 것으로 보입니다. AI 기업들은 학습 데이터 수집 및 처리 과정에서 명시적 동의 확보와 민감정보 보호 의무를 한층 강화해야 할 전망입니다.

2.인공지능이 내 목소리를 따라하면 그에 대한 권리는?

• 최근 두 건의 AI 음성 합성 소프트웨어 판매 금지 가처분이 제기됐습니다. 가수 A 씨는 1천만 원을 받고 50곡의 데이터를 제공했으나, 이를 기반으로 한 AI 음성 소프트웨어가 실제 목소리와 거의 구별되지 않는 수준으로 상업화되자 법원에 판매 중단을 신청했습니다. 애니메이션 티니핑 등의 주제가를 부른 성우 이정은 씨도 자신의 발성과 창법을 사실상 복제한 AI 프로그램이 생계를 위협한다며 같은 취지의 소송을 냈습니다. 두 사건 모두 연구용으로 제공된 음원이 추가 동의 없이 상품화되었다는 점을 주장하고 있습니다.
• 이들 사건에서 핵심 쟁점은 계약서에 적힌 학습 데이터 제공 조항의 범위와 목소리에 대한 퍼블리시티권, 혹은 인격표지영리권, 침해 여부입니다. A 씨 측은 계약이 내부 연구에 한정된다고 주장하는 반면, 개발사는 상업적 활용도 계약 범위에 포함된다고 해석합니다. 이정은 씨 사건은 국내 최초로 가수와 AI 업체가 음성 복제를 두고 다투는 사례로서, 부정경쟁방지법, 저작권법, 퍼블리시티권 규정 등이 복합적으로 얽혀 있으나 선례가 부족해 법원이 목소리의 법적 보호 범위를 어디까지 인정할지가 향후에도 중요한 기준점이 될 것입니다.
• AI 음성 인식 및 합성 기술은 LLM보다 훨씬 이른 시점에 상용화 단계에 도달해 이미 사람의 목소리를 대체할 잠재력이 큽니다. 기술 우위 시대에서 기업과 대비한 개인의 교섭력은 급격히 약화하는 양상이 계속 보입니다. 창작자의 권익과 더불어서 기업에 대비하여 가수, 성우, 배우와 같은 개인의 권리를 지킬 수 있는 제도적 장치 등에 대한 논의 또한 같이 이루어져야 할 시기인 것으로 보입니다.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.