제도화된 소외의 한가운데에 존재하는 얽힘의 일시적 순간들 [...]. 그러한 곳들이 협력자를 찾을 장소다. 어떤 사람은 그러한 장소를 잠복해 있는 공유지latent commons로 생각할 수도 있다.

—애나 로웬하웁트 칭, 노고운 옮김, <세계 끝의 버섯>

새 사이트, 같은 마음

by 🤖아침

새 둥지에서 처음으로 인사 드립니다. 안녕하세요?

AI 윤리 레터는 발행 1주년을 맞아 자체 웹사이트로 집을 옮겼습니다. 기존에 사용하던 스티비 뉴스레터는 기록용으로 남겨두되, 앞으로는 이쪽 사이트에서 뉴스레터를 발행합니다.

이메일을 받아보시는 입장에서는 크게 변하는 것이 없는 반면, 웹사이트는 몇 가지 달라지는 점이 있습니다.

• 태그별로 뉴스레터 모아보기 기능이 생깁니다. 본문에서 다루는 이해관계자 유형, 주제, 층위에 따라 필진이 태그 분류 작업을 할 예정이고, 연관된 글을 쉽게 찾아볼 수 있게 됩니다.
• AI 업계 젠더 편향 이야기처럼 별개 웹페이지로 발행한 내용도 하나의 사이트 안에 링크됩니다.

아직 이삿짐을 정리하는 중이라 단장이 덜 된 점 양해 부탁드려요. 정리되는 대로 또 공지하겠습니다.

뉴스레터 발행을 시작한 2023년 5월은 전해 말 공개된 챗지피티의 대중적 성공에 따른 열기와, 저명한 공학자 및 기업가가 서명에 동참하여 화제가 된 ‘거대 AI 실험 중단 공개서한’의 종말론적 전망이 기술 관련 대중 담론 안에서 상당히 많은 평수를 차지하고 있었습니다. 낙관론과 비관론이 결합한 하이프가 강력하게 작동한다는 점에서는 지금도 비슷하고요.

양극단으로 과대망상적인 기술적 비전을 배격하고, 현실에 입각한 비판적 관점으로 기술을 논의하겠다는 결의에서 뉴스레터를 시작했다…고 하면 그럴싸할까요? 하지만 솔직히 말하면, 뭐라도 하지 않으면 살짝 돌아버릴 것 같은 분위기 속에서 어떻게든 갈피를 잡고자 했던 몸부림에 가까웠던 것 같아요.

감사하게도 유능한 필진 동료와 열심히 읽어주시는 독자 여러분을 만나, 1년간 꾸준히 뉴스레터를 작성해 왔습니다. 그동안 AI 윤리 관련 데이터셋 및 도구뿐만 아니라 데이터 권리, 노동, 규제 및 거버넌스, 차별, 오정보, 감시, 폭력, 환경, 식민주의, 미래 비전 등을 넘나드는 이야기를 다루며, 필진 입장에서도 학습하고 생각을 발전시킬 수 있었습니다. 다양한 분을 만나 기술에 관해 토론할 기회를 얻기도 했습니다.

올해 1월부터는 디지털 시민 광장 캠페인즈를 통해 응원금을 받고 있습니다. 보내주신 금액은 서버 대여와 이메일 대량 발송 등 매월 발생하는 서비스 이용료로 사용합니다. 벌써 많은 분이 크고 적은 금액을 전달해 주셔서, 올해 남은 기간은 이용료 걱정을 하지 않아도 될 것 같아요. 이 자리를 빌려 감사의 말씀 드립니다.

앞으로도 상황이 허락하는 한 꾸준히 뉴스레터를 운영하며, 이론/기술/실천적 논의가 만나는 공간을 확장하고 AI 윤리와 기술 담론 커뮤니케이션에 기여하고 싶습니다.

그럼 잘 부탁드려요.

독자와의 (아주 느린) 대화

AI 윤리 레터 말미엔 항상 위와 같은 피드백 창구가 자리하고 있습니다. 1호부터 이번 1주년 특집호까지 단 한 번도 빠짐 없이 말이죠. 지난 1년 동안 20여 분께서 총 46개의 피드백을 주셨습니다. 메일을 76통 보냈으니 10번 중 6번은 저희가 회신을 받은 셈이네요!

독자분들께서 주신 피드백은 필진이 함께 있는 대화방에서 바로 확인할 수 있는데요. 보내주시는 응원에 다 같이 힘을 얻기도 하고, 또 다른 생각할 거리를 주실 땐 열정적인 토론이 이어지기도 한답니다!

경우에 따라 그다음 주에 바로 콘텐츠에 반영하여 뉴스레터로 발행하기도 했지만, 별도로 소개하거나 별다른 답변을 드리지 않은 피드백도 많았는데요. 1주년 특집호를 빌어 AI 윤리 레터 필진이 기억에 남는 피드백에 답장을 드리는 자리를 가져봅니다 🙂

자동차는 일정 규모 이상의 기업만 만들 수 있는 제품이지만, 생성 AI는 이미 비트코인 채굴용 컴퓨터 정도의 GPU 에서 학습도, 구동도 시킬 수 있는 시대에 접어든 거 같아요. "신뢰 : AI가 살아남기 위한 조건"에서 자동차와 AI 기술을 비유하는 것이 다소 위험하게 느껴지는 게 이런 지점인 거 같아요. 대기업이나 자동차 제조 전문 회사가 아닌 민간에서도 물론 자동차를 만드는 경우가 왕왕 있지만, "3D 프린터로 제작 가능한 총기" 수준에는 아직 이르지 못하고 있죠. 하지만 3D 프린터로 제작 가능한 총기는 이미 실존하고, 그렇기에 이러한 총기로부터 어떻게 사람들을 보호할 수 있는지에 대한 논의로 넘어가야 하는 상황이 되고 있는 것처럼 느껴져요. 생성 AI 기술도 현시점에서는 그런 관점에서 바라보아야 하지 않을까 생각합니다.

Re: ㅂㄱㅎ 님께 (by 🍊산디)

• 무엇보다, 매번 좋은 피드백을 주셔서 감사합니다. 챙겨보고 있어요!
• 피드백 주신 내용은 크게 동의하는 내용이에요. 기업이든 개인이든 누구나 AI를 가져다가 ‘원하는 대로’ 쓰게 되었으니까요. AI 윤리는 AI 기업만의 것일 수 없습니다. ㅂㄱㅎ 님의 피드백을 핑계 삼아 기업 규제, 이용자 보호를 넘어선 AI 윤리의 필요성에 대한 제 생각을 이야기해 볼까 합니다.
• 기술을 활용해 초래된 해악이 누구의 책임인지 따지는 것은 어려운 문제입니다. 3D 프린터로 총기를 제작했다고 했을 때, 3D 프린터로 총도 제작할 수 있다며 위험 행동을 조장하거나, 불법성을 방조하거나, 침해 사실을 알고 있었음에도 관련 조치를 해태하지 않았다면, 3D 프린터 생산 기업을 처벌할 수는 없을 거예요. AI의 사례로 돌아올까요. 생성 AI 모델을 가져다가 이용자가 의도적으로 저작자의 저작권을 침해했다면, 처벌-책임의 논리로 보았을 때 이는 어디까지나 이용자 개인의 책임입니다. 사법 시스템은 처벌-책임의 논리를 구체화합니다. 미국 저작권법에서는 이를 의지적 행위(volitional conduct) 요건이 충족되었는지 확인합니다. 한국의 저작권법 역시 작위와 부작위, 고의와 선의를 구분하는 입증 과정을 거치죠.
• 하지만 저는 오늘날의 윤리는 처벌-책임의 논리를 극복해야 한다고 생각해요. 행위는 다양한 인간, 비인간 행위자가 영향을 주고받는 복잡한 네트워크를 이룹니다. 이것이 행위의 묘미이기도 한데, 내 행위의 범위와 규모를 예측할 수 없어 그렇습니다. AI 모델을 설계, 개발, 배포에 관여한 행위자와 그것을 이용한 행위자, 그것을 지켜보기만 한 행위자 모두 위험이 발생하는 행동에 직간접적으로 관여되어 있을 수 있습니다. 이런 상황에서 누구에게 ‘윤리적’ 책임이 있는지 특정하는 게 가능하기나 할까요. 특정되지 않으니 처벌-책임을 물을 수도 없습니다. “법적으로 아무 책임이 없다”는 말은 자칫 윤리적 회복에 필요한 논의를 가로막는 데 악용될 수 있습니다.

• 어떤 위해가 발생했을 때, 처벌-책임을 논하는 것과 별개로 우리에게는 위해를 초래한 행위 네트워크 구성원의 공적 선언이 필요합니다. 공적 선언은 공동체 내에 위해가 발생했음을 자각하고, 그것이 반복되지 않도록 하겠다는 의지를 구성원과 공유하는 행위입니다. 우리 모두에게는 이러한 공적 선언을 할 책임, 윤리-책임이 있습니다. 공적 선언은 강력한데, 단 한 명만 변해도 행위의 결과는 달라질 수 있기 때문입니다. 그것이 행위의 묘미입니다.
• 저는 좋은 공동체는 용서와 약속의 미덕을 갖추고 있다고 생각해요. 용서를 구하고 용서받고, 약속하고 약속을 신뢰하는 행위는 공동체가 집단으로서 과거를 받아들이고 미래로 도약하기 위해 필요합니다. AI를 만들고 사용하는 모두가 용서하고 약속하는 네트워크 위에 있습니다. 우리가 할 수 있는 것은 지리하게 반복되는 듯한 공적 선언을 매번 지치지 않고 반복하는 거라고 생각해요. 🦜AI 윤리 레터가 AI에 대한 공적 선언을 나누는 공간이 되기를 바랍니다.

(중략) 일반적으로 윤리라고 하면 '부정문'으로 기술되어야 한다는 불문율이 있는 건 아닐까 하는 생각을 가지고 있는 것 같습니다. 그런데 만일 긍정문으로 바꾸어 본다면 어떻게 표현해볼 수 있을까 하는 지점이지요. 하지 말라고 하는 것 대신에 이렇게 하자는 강렬한 그림을 전체 지식사용자 공동체라는 캔버스에 그려놓는다면 어떻게 될까요?

아마 우리는 그것을 비전, 혹은 가치, 덕 등으로 풀어서 부르기도 할 것 같습니다. 건물이 비교하자면 이런 것들은 기둥이 되려나요? 그렇게 본다면 우리가 부정문으로 표현하는 윤리적 염려는 성벽과 해자가 될까요? 아니면 건축물에 적용된 내진설계를 비롯한 각종 안전장치가 될까요? 그런 장치들이 제대로 작동하려면, 그 장치를 고안하고 실험, 검증, 설치, 사용, 유지, 보수를 수행하는 인간이 가지고 있는 효능감이 중요하지 않나 하는 생각이 들었습니다.

윤리의식을 가졌기 때문에 이익을 경험한 예가 있다면 그 사람의 윤리의식은 효능감이라는 값을 가지고 있고 그 효능감이라는 값이 있기에 필요한 순간에 윤리의식이라는 메카니즘은 유효성을 가지고 작동할 겁니다. 그런데 윤리의식과 동전의 양면을 이루는 비전-가치-덕의 삼체라는 측면에서 우리가 가져야 할 효능감은 그럼 어떤 것일까 하는 질문을 던지게 됩니다. 이 둘은 최종 제품의 스펙이나 광고대행사의 언어로 표현되는 그런 그림과는, 상호 중첩되는 부분은 있을 수 있어도, 본질적으로는 전연 다른 측면에서 마련되어야 하는 것들이니까요.

결국은 인간존재로서 개발자 내면, 개발자가 가지는 이상 속에서, 그 이상 속에 존재하는 세상에서 개발자가 가지고 싶은, 공유하고 싶은 효능감이 지금까지 경험해서 무의식이나 장기기억 속에 축적해 온 어떤 가정이나 신념체계보다 힘을 더 많이 가지게 된다면 지금의 A.I. 개발은 또 어떤 국면에서 달라질 수 있을까 하는 생각을 해보았습니다. 우리의 의식도 사실 많은 부분 무의식의 지배를 받고, 우리가 그리는 그림도 우리가 모르는 사이 우리 내면의 상태를 반영하고 있으니까요. 집단무의식의 발현에 있어서는 더더욱 그런 현상이 두드러지구요.

Re: spes 님께 (by 💂🏻‍♂️죠셉)

멋진 댓글을 자르기 싫어 코멘트를 두 줄로 줄입니다. 긍정문으로서의 윤리, 건축의 비유, 효능감까지 제 고민의 궤적과 싱크로율 100%라서 놀랐어요. 커피챗 해주세요! 부디 연락을 🙇‍♂️

4월 24일자 레터 내용이 너무너무너무 유익했습니다!! 특히 '강화학습이 강화하는 역사'라는 주제가 너무 흥미롭고 인상 깊었습니다. 항상 의미있는 주제들을 다뤄주셔서 감사합니다.

한낱 평범한 고등학생인데 요즘 AI 윤리레터로 다양한 인사이트를 접하면서 무럭무럭 성장하고 있어요! 감사합니다....에디터분들 모두 제 스승님이세요!!

Re: ㅎㅂㄷ 님께 (by 🥨채원)

• ㅎㅂㄷ님, 안녕하세요? 뉴스레터를 잘 읽고 계신다는 피드백을 남겨주셔서 감사합니다. ㅂㄷ님의 다정한 피드백 덕분에 얼마나 기쁘고 뿌듯했는지 몰라요! 저희 뉴스레터는 저를 포함한 필진들의 자발적인 사이드 프로젝트로 꾸려나가고 있고, 그렇게 본업 외에 시간을 쪼개서 작성하다보니 마감에 자주 쫓기곤 하는데요ㅎ 그러다 이렇게 희망찬 피드백을 들으니, 앞으로도 더 꾸준히 써야겠다는 다짐도 하게 되었습니다.
• 저 개인적으로는 학계의 사람들이나 이 분야에 종사하는 사람들과만 이야기할 것이 아니라, 제 친구들이나 가족들 같은 평범한(?) 사람들과도 AI 윤리에 관해 이야기하는 것이 중요하다고 생각해서 🦜AI 윤리 레터에 참여하게 되었어요. 대부분의 논의가 영어로, 미국이나 유럽 중심의 맥락에서 이루어지는 것에 비판의식을 가지고 한국어로 한국의 독자들과 소통하고 싶기도 했고요. 이러한 저의 동기가 마침 ‘강화학습이 강화하는 역사’에서 이야기하고 싶었던 주제와도 일맥상통하는 것이라 ㅂㄷ님의 피드백이 더욱 뿌듯하게 느껴진 것 같아요.
• 최근에 제가 존경하는 학자분과 이야기할 기회가 있었는데, 그때도 ㅂㄷ님의 피드백을 언급하면서 너무 뿌듯한 순간이었다고 자랑(?)했거든요? 그랬더니 그 분도 내가 어떤 영향력을 끼치고 있다는 걸 실감하는 것보다 더 기쁜 순간은 잘 없다며 공감해 주셨어요. 뉴스를 읽으며 자칫 체념하고 시니컬해지기 쉬운 요즘이지만, 같은 문제에 대해 고민하는 사람들과 소통하는 게 무력감을 극복하는 데에 큰 도움이 되는 것 같아요. 이런 과정에서 저희의 고민이 ㅂㄷ님의 성장에도 기여했다니 그저 기쁠 따름이고요… 앞으로도 레터 꾸준히 재밌게 읽어주시고, 더 궁금하거나 하고 싶은 이야기가 있으시다면 언제든지 또 연락해 주세요. 감사합니다!

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.