한나 아렌트가 표현한 것과 같다. “사실에 근거한 진실을 거짓말로 일관성 있게 완전히 대체하는 데 따르는 결과는, 거짓말이 진실로 받아들여지고 진실이 거짓말이라는 오욕을 뒤집어쓰게 되는 게 아니다. 실세계의 방향 감각이 … 파괴된다는 것이다.” (Arendt 2006, 252)
—마이클 린치, <우리는 맞고 너희는 틀렸다>

인간 중심의 인공지능이 그래서 뭔데요?

by 🥨채원

여기저기서 많이 보이는 말이죠. “인간 중심의 AI” — 언뜻 봤을 때 좋아보이긴 하는데, 정확히 무슨 뜻인지는 아무도 모르는 것 같기도 합니다. 한편에서는 인간 중심의 AI라는 개념 자체가 많은 이들이 동의하는 하나의 정의를 내리기 어렵다고 주장할 수도 있습니다. 새롭게 등장하여 아직 충분한 논의가 이루어지기 어려웠다고도 볼 수 있고요. 이런 경우, 일단 이 개념이 실제로 어떻게 쓰이는지를 분석하면 조금 더 명확하게 어떤 의미로 받아들여지고 있는지 알아볼 수 있습니다.

이러한 접근방식을 사용하여, 학계에서 쓰이는 인간 중심의 AI라는 개념이 구체적으로 어떻게 논의되는지 알아본 연구가 있습니다. 오늘 제가 같이 읽어보려고 가져온 ‘인간 중심의 인공지능에서 무엇이 인간 중심적인가?: 연구 지형 지도‘라는 제목의 논문입니다. 해당 논문은 2023년에 CHI (Conference on Human Factors in Computing Systems)라는 인간-컴퓨터 상호작용 분야의 학술대회에서 발표되었습니다.

저자들은 ‘인간 중심의 AI’ 혹은 ‘인간 중심의 머신러닝’을 키워드로 하는 (논문 작성 당시 2022년 7월 기준) 이천여편의 논문 중, 몇 단계의 필터링을 걸쳐 최종적으로 431편의 논문을 분석하였습니다. 그리고 인간 중심의 AI라는 개념이 얼마나 다양하게 쓰이고 있는지 실증적으로 보여줍니다.

저자들이 분석한 논문을 기반으로 만든 지도를 같이 살펴볼까요? 여기서 색깔은 각각의중심 주제를, 크기는 해당 주제에 속하는 논문의 비율을 보여줍니다. 오른쪽 하단의 가장 큰 파란색 원에서 보여주듯이, 인간 중심의 AI 연구 중 절반 정도는 인간 중심의 접근방식을 사용한 디자인 혹은 평가 방식을 사용하는 경우였습니다. 여기서 인간 중심의 접근도 다양한 맥락에서 사용되었습니다. 예를 들어 일부 연구는 AI가 사용되는 시스템이 사용자 (안무가나 방사선 전문가, 임산부 등)를 염두해 둔 디자인이라는 점에서 해당 AI를 ‘인간 중심적’이라고 일컫습니다.

이 외에도 왼쪽 하단의 녹색 부분이 나타내는 설명 가능하고 이해 가능한 AI 연구가 20% 정도, 왼쪽 상단의 분홍색으로 표현된 AI와 인간이 같은 팀으로 협력하는 시나리오의 연구가 20%정도 차지하고 있습니다. 이외에 오른쪽 상단의 다양한 노란색 원들은 공정성이나 편향 등을 연구하는 등 다양한 접근 방법의 윤리적 AI 연구를 나타냅니다. 저자들이 논문을 작성했던 2022년 여름에서 2년 이상 지난 지금 이러한 주제의 연구는 훨씬 많이 늘어났기 때문에, 지금도 이와 같은 비율로 연구가 이루어지지는 않을 수도 있습니다. 그러나 이러한 문헌 분석은 인간 중심의 AI라는 분야 안에 얼마나 다양한 주제가 공존하는지 보여줍니다.

여전히 알쏭달쏭한 인간 중심의 AI라는 개념이지만, 앞으로는 해당 키워드를 들었을 때 이 지도를 떠올리면서 구체적으로 어떤 의미로 사용되었는지 좀 더 명확하게 살펴볼 수 있지 않을까요? 누군가 특정 기술이 ‘인간 중심적’이라고 할 때, 누군가는 그저 사용자의 편의를 고려했다는 의미로 쓰기도 하고 누군가는 인간과 AI가 같이 무언가 한다는 의미로, 혹은 AI를 둘러싼 윤리, 법리, 신뢰의 문제를 이야기 하기도 한다는 것을요.

이러한 분석을 바탕으로 저자들은 인간 중심의 AI라는 단어에 대한 나름의 정의를 제공합니다.

인간 중심의 인공 지능은 데이터를 활용하여 인간 사용자에게 권한을 부여하고 지원하는 동시에 데이터의 기본 가치, 편견, 한계, 데이터 수집 및 알고리즘의 윤리를 공개하여 윤리적이고 상호 작용적이며 논쟁 가능한 사용을 촉진합니다.” (Capel & Brereton, 2023, 13쪽)

독자분들은 이 정의에 대해 어떻게 생각하시나요? 이 글을 읽기 전에 어렴풋이 갖고 있던 생각과 비슷한가요? 앞으로도 제가 재밌게 읽은 논문을 종종 가져와보도록 할게요!

지적장애인과 AI 기술의 바람직한 관계는?

by 🤖아침

나와 AI 기술의 관계도 복잡한데, 지적장애인과 기술의 관계라니요. 장애인 당사자도, 관련 전문가도 아닌 입장에서 상당히 막막했지만 지난 여름 서울시공익활동지원센터에서 열린 공익활동 모임에서 이 질문을 마주하게 되었습니다. 지적장애인 아들을 둔 모임장님이 제시한 목표는 "인공지능 시대에 지적장애인이 소외되지 않도록 지금 우리가 할 수 있는 일이 무엇인지 찾고, 도움을 구하고, 시작하는 것".

기술의 희망찬 약속을 의식적으로 경계해온 저로서는 처음에 다소 긴장되기도 했습니다. 물론 모임에서는 폭넓은 관점을 다루며 기술이 장애인의 삶을 개선할 수 있으리라는 기대부터 오히려 소외를 강화하지 않을까 하는 우려까지 편하게 논의했는데요. 그럼에도 기술 비판적인 이야기를 꺼낼 때면 문득 작동하는 자기검열, 장애인과 AI의 긍정적 전망에 내가 뭐라고 찬물을 끼얹나 싶은 마음을 다스려야 했습니다.

불확실한 마음을 다스리고 갈피를 잡기 위해서 관련 자료를 함께 찾아보기도 했는데, 생각보다는 최근 AI 기술과 지적장애에 연관되는 사례를 찾기 쉽지 않았습니다. 시각 접근성을 개선하는 서비스나, 수어를 인식하는 컴퓨터 비전 기술, 언어 장애인을 위한 개인화된 음성 인식, 신체/인지 장애를 보조하는 외골격 로봇 등 각종 보조 기술을 테크 기업이 즐겨 홍보한다는 점을 생각했을 때 의외였습니다. 지적장애와 더 직접적으로 연결되는 사례 중 쉽게 접할 수 있는 것은 발달장애 진단 및 돌봄을 돕는 AI 모델이나 지적장애인 교육을 위한 맞춤형 챗봇 정도였습니다.

이같은 사례들은 주로 장애인을 기술의 혜택을 받는 수동적 수혜자로 상정하고 있어 아쉬운 점도 있습니다. 기술 수혜자보다 사용자로서 장애인 당사자의 삶과 기술이 연결되는 경험은 어떻게 만들 수 있을까요? 이런 고민을 거쳐, 실행에 옮길 수 있는 구체적 결과물로 (경도)지적장애인을 대상으로 하는 AI 워크숍을 설계하고 진행해보게 되었습니다. 10월 8일에 모임 과정과 결과를 (모임장님이) 공유하는 오프라인 행사가 있으니 관심 있는 분은 들러주세요. 보다 자세한 기록도 별도의 글로 정리할 예정입니다.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.