초(超)연결시대인 현대에는 (....) 어지간한 소수의견이라 해도 클릭 몇 번으로 동지를 찾을 수 있다. 정신적 고립은 플로피디스켓과 함께 사라져버리고 말았다.
—장강명, <책 한번 써봅시다>

AI 윤리 뉴스 브리프

2024년 8월 셋째 주
by 🥨채원

1. 구글 검색 너 독점 맞음

• 온라인 검색 시장에 지각변동을 일으킬 것으로 기대되는 미 법원의 판결이 나왔습니다. 구글이 애플 등 기기에 기본 검색 엔진으로 탑재되기 위해 천문학적인 금액을 지급하는 방식을 통해 불법적으로 시장에서 독점적인 지위를 유지해왔다는 것입니다.
• 많은 사용자가 기기의 초기 설정값을 바꾸지 않은 채 인터넷 브라우저나 검색엔진 등을 사용한다는 것은 이미 널리 알려진 사실입니다. 이를 고려할 때, 기업들이 관습이라고 포장한 기본 검색 엔진 설정에 대한 위법성을 판단하는 것이 이렇게 오래 걸렸다는 것이 오히려 의아하게 느껴지기도 합니다.
• 검색 엔진은 단순히 정보의 접근성만의 문제가 아니라, 플랫폼 기업의 수익의 상당부분을 차지하는 검색과 직결된 문제라는 점에서 특히 이 판결의 중요성이 두드러집니다. 이 판결이 실제로 어떤 정책적 변화를 일으킬지 눈여겨봐야겠습니다.

2. 회의주의자로 살아남기

• 역사적으로 과학 기술의 발전은 인류가 벌이는 전쟁과 긴밀한 관계로 이어져 왔습니다. 이전 뉴스레터에서 살펴보았듯, 많은 AI 기술이 오늘의 전쟁과 죽음에 기여하고 있습니다. 그리고 이러한 움직임을 비판하고 거부하는 목소리도 다른 뉴스레터에서 전해드렸습니다.
• 며칠 전 'AI 시대의 무기 판매상'이라고 불리는 미국의 AI 기업인 팔란티어가 마이크로소프트와 협업하여 미 국방부와 정보기관에 AI 분석 시스템을 제공한다는 소식이 발표되었습니다. 관련 국내 기사를 찾아보니 이 발표 이후 해당 기업의 주가가 어떻게 변동되었는지 다루는 내용이 대부분이었습니다.
• AI와 전쟁, 그리고 주식시장. 우크라이나와 가자지구를 비롯한 여러 전쟁의 한 가운데 인류의 번영을 위해 개발되었다는 각종 AI 기술이 사용되는 것을 우리는 실시간으로 지켜보고 있습니다. 동시에 인류 역사상 가장 부유한 기업들이 이러한 추세에 동조하는 것, 그리고 그런 거래의 이면에는 무관심해보이는 인류의 미래가 암담해 보이는 것은 저 뿐일까요? AI 기술의 첨단에 서 있는 기업들의, '인류의 번영'을 위한다는 선언이 공허하게 느껴지는 이유입니다.

3. 국산 거대 언어 모델 추가요

• LG AI 연구원에서 거대 언어 모델 EXAONE 3.0 7.8B을 발표했습니다. 해당 모델은 연구를 목적으로 하는 경우 자유롭게 사용할 수 있는 라이선스로 공개되었습니다. 같이 발표한 기술 보고서에서 '책임 있는 AI' 를 모델 학습 및 평가와 더불어 별개의 장으로 할애하여 다룬 것이 돋보입니다.
• 다만 AI 윤리의 관점에서 보았을 때는 몇가지 아쉬운 점도 있었습니다. 하나는 기술 보고서에서 다루는 모델의 위험성을 논함에 있어서 악의를 가진 오용에 집중한다는 것이었습니다. 거대 생성 모델의 '선용'과 '오용'의 애매한 경계에 대해서는 지난 레터에서도 논의한 적 있죠.
• 또 다른 하나는 편향을 측정하는 방법에서의 정확성인데요, 이는 EXAONE 3.0 7.8B 모델의 자체의 한계라기보다는 해당 모델을 평가하는 데 사용한 벤치마크 데이터의 한계입니다. 기술 보고서를 보면, 지역 편향의 예시로 지역의 난방비와 소득수준의 연관성을 묻고 있습니다. 그러나 과연 이것이 과연 지역 편향의 문제일까요?
• 거대 언어 모델을 비롯한 각종 생성 모델의 사회적 영향력을 평가하는 데에 안정성이나 편향이 널리 사용되지만, 이러한 측정 지표의 유효성에 대해서 많은 비판이 이루어지고 있기도 합니다. 거대 생성 모델이 온 세상 곳곳에 사용되고 있지만, 아직 모델의 위험성이나 영향력을 정확하게, 많은 이들이 납득할 수 있는 형태로 측정할 수 조차 없다는 것이 안타까운 AI 개발의 현주소입니다.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.