미래의 시간을 쓰는 우리

가끔은 ChatGPT 없이 직접 글을 쓰면 어떨까요?

미래의 시간을 쓰는 우리
우리가 무언가를 구매하고 사용하는 방식을 바꾼다면,
그리고 이런 변화가 의미 있는 방향으로 움직인다면,
많은 변화가 일어날 것이다.

—빌 게이츠, "기후재앙을 피하는 법"

미래의 시간을 쓰는 우리

by 🌎다솔

안녕하세요. 다솔입니다. 저는 올 한 해 AI 윤리 레터에서 AI 제품을 만드는 실무자들이 업무에 적용할 수 있는 Responsible AI 가이드라인, AI 모델의 편향성을 해결하기 위해 시민들이 평가하고 참여할 수 있는 방법, AI가 지구에 미치는 영향에 대해서 함께 생각할 수 있는 글을 주로 썼습니다.

올해 AI 윤리 레터를 마무리하면서, 올해 저를 가장 고민하게 한 문제를 잘 설명한 최신 연구를 여러분께 소개하고 싶어요.

5월 29일 레터에서 ChatGPT에게 질문을 할 때마다 지구가 대가를 치르게 되는 것에 대해서 다뤘습니다. 해당 레터에서는 기업이 탄소 배출을 계산할 수 있는 정보를 모두 공개하지 않아서 AI 모델의 탄소 배출량을 정확하게 계산하기 어렵다는 한계를 언급했었죠.

AI 스타트업 Hugging Face와 카네기멜론 대학교 연구진의 새로운 연구에서, 다양한 작업에 AI 모델을 사용함으로써 발생하는 탄소 배출량을 계산한 연구를 발견했어요. 저희 레터에서도 소개했던 인물, Hugging Face AI 연구원 루치오니는 AI 모델의 탄소 배출량을 이해하면 보다 지구 친화적인 방식으로 AI를 사용하는 방법에 대한 결정을 내리는 데 도움이 될 수 있을 것이라고 말합니다.

출처: Power Hungry Processing: Watts Driving the Cost of AI Deployment?

루치오니와 그녀의 팀은 질문 답변, 텍스트 생성, 이미지 분류, 캡션, 이미지 생성 등 허깅 페이스 플랫폼에서 가장 많이 사용되는 10가지 AI 작업과 관련된 탄소 배출량을 조사했습니다.

루치오니는 텍스트 생성과 같은 각 작업에 대해 1,000개의 프롬프트를 실행하고 자신이 함께 개발한 도구인 Code Carbon으로 사용된 에너지를 측정했습니다. Code Carbon은 모델을 실행하는 동안 컴퓨터가 소비하는 에너지를 살펴보고 계산합니다. 또한 다양한 작업을 수행하도록 훈련된 8개의 생성 모델을 사용하여 발생하는 탄소 배출량을 계산했습니다.

출처: Code Carbon

AI 기반 작업 중 이미지 생성은 에너지와 탄소 집약도가 가장 높은 작업이었습니다. 스테이블 디퓨전 XL과 같은 AI 모델을 사용하여 1,000개의 이미지를 생성하는 데는 휘발유 자동차가 4.1마일을 주행하는 것과 비슷한 양의 이산화탄소가 발생합니다. 반면, 연구팀이 조사한 가장 탄소 집약적인 텍스트 생성 모델은 비슷한 차량으로 0.0006마일을 주행하는 것과 같은 양의 이산화탄소를 배출했습니다.

연구팀은 대규모 생성형 AI 모델을 사용하여 결과물을 생성하는 것이 특정 작업에 맞게 조정된 소규모 AI 모델을 사용하는 것보다 훨씬 더 에너지 집약적이라는 사실을 발견했습니다.

예를 들어, 영화 리뷰가 긍정적인지 부정적인지에 따라 분류하는 데 생성 모델을 사용하면, 해당 작업을 위해 특별히 학습된 미세 조정된 모델을 사용하는 것보다 약 30배 더 많은 에너지를 소비합니다. 생성형 AI 모델이 훨씬 더 많은 에너지를 사용하는 이유는 분류와 같은 한 가지 작업 대신 텍스트 생성, 분류, 요약과 같은 여러 가지 작업을 한 번에 수행하려고 하기 때문입니다.

루치오니는 이번 연구를 통해 사람들이 생성형 AI를 사용할 때 더 신중하게 선택하고, 가능하면 더 특정 작업에 맞게 조정된 소규모 AI 모델, 탄소 집약적이지 않은 모델을 선택하기를 바란다고 말합니다.

생성형 AI 붐으로 인해, 우리는 이메일 글 쓰기, 질문하기, 요약하기 목적으로 ChatGPT를 무의식적으로 사용하고 있습니다. 우리가 사용한 생성형 AI의 탄소 배출량은 지금 당장 우리에게 큰 피해를 주지 않는 것으로 보이지만, 미래의 시간을 쓰고 있다는 생각이 들곤 합니다. 미래 세대가 살아갈 수 있는 지구가 지켜지기 위해서 탄소 집약적이지 않은 모델을 선택하면 어떨까요? 가끔은 ChatGPT 없이 직접 글을 쓰고 요약하면 어떨까요?

한 해 저희 AI 윤리 레터를 구독으로 응원해 주시고, 함께 읽어주셔서 고맙습니다.