인공지능은 환경에 어떤 영향을 미칠까요?

인공지능은 환경에 어떤 영향을 미칠까요?

간단히 말해서, AI는 주로 데이터 센터의 전력 사용량(학습 및 일상적인 추론 모두), 냉각수 사용량, 하드웨어 제조 및 전자 폐기물 발생으로 인해 환경에 영향을 미칩니다. 사용량이 수십억 건의 쿼리로 증가하면 추론에 필요한 전력량이 학습에 필요한 전력량을 초과할 수 있습니다. 하지만 전력망이 더욱 깨끗하고 시스템 효율이 높아진다면 환경에 미치는 영향은 줄어들고 이점은 커질 수 있습니다.

핵심 요약:

전력: 컴퓨팅 사용량을 추적하세요. 작업 부하가 더 깨끗한 전력망에서 실행될 때 배출량이 감소합니다.

물: 냉각 방식 선택은 환경에 미치는 영향을 변화시키며, 물을 이용한 방식은 물 부족 지역에서 가장 중요합니다.

하드웨어: 칩과 서버는 상당한 내재적 영향을 미치므로 수명을 연장하고 재정비를 우선시해야 합니다.

반등 효과: 효율성 향상은 전체 수요를 증가시킬 수 있습니다. 개별 작업별 성과 향상뿐 아니라 전체 결과를 측정해야 합니다.

운영 효율성 향상 방안: 모델 규모 최적화, 추론 최적화, 요청별 지표 투명성 확보.

인공지능이 환경에 미치는 영향은 무엇일까요? 인포그래픽

이 글을 읽고 나서 읽어보시면 좋을 만한 글들:

🔗 인공지능은 환경에 해로운가?
AI의 탄소 발자국, 전력 사용량 및 데이터 센터 요구 사항을 살펴보세요.

🔗 인공지능이 사회에 해로운 이유는 무엇일까요?
편견, 일자리 감소, 잘못된 정보, 그리고 심화되는 사회적 불평등을 살펴보십시오.

🔗 인공지능이 왜 나쁠까요? 인공지능의 어두운 면
감시, 조작, 인간 통제력 상실과 같은 위험 요소를 이해하십시오.

🔗 인공지능이 너무 멀리 나아간 걸까요?
윤리, 규제, 그리고 혁신의 한계점에 대한 논쟁.

인공지능이 환경에 미치는 영향: 간략한 개요 ⚡🌱

만약 몇 가지 핵심 사항만 기억해야 한다면, 다음 사항들을 기억하세요:

그리고 사람들이 간과하는 부분이 하나 더 있습니다 바로 규모입니다. AI 쿼리 하나는 작아 보일 수 있지만, 수십억 개는 완전히 다른 차원의 문제입니다. 마치 작은 눈덩이가 소파만 한 눈사태로 변하는 것과 같습니다. (이 비유가 약간 틀리긴 하지만, 무슨 말인지 아시겠죠?) IEA: 에너지와 AI

AI가 환경에 미치는 영향은 한 가지가 아니라 여러 가지가 복합적으로 작용하는 것입니다

사람들이 인공지능과 지속가능성에 대해 논쟁할 때, 서로 다른 측면을 지적하기 때문에 종종 서로 동떨어진 이야기를 하게 됩니다

1) 전기량을 계산하세요

  • 대규모 모델을 훈련하려면 장시간 동안 고성능으로 작동하는 대규모 클러스터가 필요할 수 있습니다. (IEA: 에너지 및 AI)

  • 추론(일상적인 사용)은 끊임없이 모든 곳에서 발생하기 때문에 시간이 지남에 따라 더 큰 영향을 미칠 수 있습니다. (IEA: 에너지 및 AI)

2) 데이터센터 운영비

3) 물과 열

4) 하드웨어 공급망

5) 행동 및 반동 효과

그래서 누군가 인공지능이 환경에 어떤 영향을 미치는지 묻는다면, 간단히 말해서 어떤 부분을 측정하는지, 그리고 그 상황에서 "인공지능"이 무엇을 의미하는지에 따라 다릅니다.

학습과 추론: 모든 것을 바꾸는 차이점 🧠⚙️

사람들은 학습에 대해 이야기하는 것을 좋아합니다. "한 모델이 X만큼의 에너지를 사용했다"와 같이 극적으로 들리기 때문입니다. 하지만 추론은 조용한 거인과 같습니다. (IEA: 에너지와 AI)

훈련 (대규모 제작)

훈련은 공장을 짓는 것과 같습니다. 초기 비용이 발생하는데, 여기에는 막대한 컴퓨팅 자원, 긴 실행 시간, 수많은 시행착오(그리고 물론, "이건 안 되네, 다시 해봐"라는 반복 작업도 수없이 많습니다)가 포함됩니다. 훈련은 최적화할 수 있지만, 그럼에도 불구하고 상당한 비용이 들 수 있습니다. (IEA: 에너지와 AI)

추론 (일상적인 사용)

추론은 마치 모든 사람을 위해 매일 대규모로 가동되는 공장과 같습니다

  • 질문에 답변하는 챗봇

  • 이미지 생성

  • 검색 순위

  • 권장 사항

  • 음성-텍스트 변환

  • 사기 탐지

  • 문서 및 코드 도구의 코파일럿

각각의 요청량이 상대적으로 적더라도 사용량은 학습량을 압도할 수 있습니다. 이는 "빨대 하나는 아무것도 아니지만, 백만 개는 문제가 된다"는 고전적인 상황과 같습니다. (IEA: 에너지와 AI)

참고로, 일부 AI 작업은 다른 작업보다 훨씬 더 많은 에너지를 소모합니다. 이미지 생성이나 긴 동영상 제작은 짧은 텍스트 분류보다 에너지 소비가 훨씬 더 큽니다. 따라서 "AI"를 하나의 범주로 묶는 것은 자전거와 화물선을 비교하며 둘 다 "운송 수단"이라고 부르는 것과 같습니다. (IEA: 에너지와 AI)

데이터 센터: 전력, 냉각, 그리고 조용한 물 사용 이야기 💧🏢

데이터 센터는 새로운 것이 아니지만, AI는 그 강도를 변화시켰습니다. 고성능 가속기는 좁은 공간에서 많은 전력을 소모하며, 이는 열로 이어져 관리가 필수적입니다. (LBNL(2024): 미국 데이터 센터 에너지 사용 보고서(PDF) IEA: 에너지와 AI)

냉각의 기본 원리 (간단하지만 실용적입니다)

이것이 바로 절충점입니다. 수냉식 냉각을 활용하면 전력 소비를 줄일 수 있는 경우가 있습니다. 하지만 지역별 물 부족 상황에 따라 괜찮을 수도 있고, 심각한 문제가 될 수도 있습니다. ( Li et al. (2023): Making AI Less “Thirsty” (PDF))

또한 환경 발자국은 다음과 같은 요소에 크게 좌우됩니다

솔직히 말해서, 일반적인 담론에서는 "데이터 센터"를 마치 블랙박스처럼 취급하는 경향이 있습니다. 데이터 센터는 악한 것도 아니고, 마법 같은 존재도 아닙니다. 그저 인프라일 뿐이고, 인프라처럼 작동하는 것입니다.

칩과 하드웨어: 사람들이 덜 매력적이라고 ​​생각해서 건너뛰는 부분 🪨🔧

AI는 하드웨어에서 작동합니다. 하드웨어에는 수명 주기가 있으며, 수명 주기 동안 발생하는 영향은 클 수 있습니다. (미국 환경보호청: 반도체 산업, ITU: 2024년 글로벌 전자 폐기물 모니터)

환경적 영향이 나타나는 곳

전자 폐기물과 "완전히 정상 작동하는" 서버

환경 피해의 상당 부분은 특정 기기의 존재 자체에서 오는 것이 아니라, 비용 효율성이 떨어져 조기에 교체하는 데서 비롯됩니다. 인공지능(AI)은 성능 향상 폭이 크기 때문에 이러한 현상을 가속화합니다. 하드웨어를 교체하고 싶은 유혹은 매우 강합니다. (ITU: 2024년 글로벌 전자 폐기물 모니터)

실용적인 관점에서 보면, 하드웨어 수명 연장, 활용도 향상, 그리고 재활용은 최신 모델 사양만큼이나 중요합니다. 때로는 가장 친환경적인 GPU는 아예 사지 않는 것일 수도 있습니다. (슬로건처럼 들리지만, 어느 정도는 사실입니다.)

AI가 환경에 미치는 영향: "사람들은 이것을 잊어버린다"는 행동 악순환 🔁😬

여기서 어색한 사회적 측면이 드러납니다. AI는 일을 더 쉽게 만들어주기 때문에 사람들은 더 많은 일을 하게 됩니다. 이는 생산성 향상, 창의성 증진, 접근성 향상 등 긍정적인 측면이 있습니다. 하지만 동시에 전반적인 자원 사용량 증가로 이어질 수도 있습니다. (OECD(2012): 에너지 효율 개선의 다양한 이점(PDF))

예시:

  • 인공지능이 동영상 제작 비용을 저렴하게 만들면 사람들은 더 많은 동영상을 제작하게 될 것이다.

  • AI가 광고 효과를 높이면 더 많은 광고가 노출되고, 더 많은 참여 루프가 발생합니다.

  • 인공지능이 배송 물류를 더욱 효율적으로 만든다면 전자상거래는 훨씬 더 빠르게 성장할 수 있을 것이다.

이것은 패닉에 빠질 이유가 아닙니다. 단지 효율성뿐 아니라 결과를 측정해야 할 이유입니다.

완벽하진 않지만 재밌는 비유를 하나 들어볼게요. AI의 효율성은 십 대에게 더 큰 냉장고를 주는 것과 같아요. 물론 음식 보관 공간은 늘어나지만, 어쩐지 하루 만에 냉장고는 다시 텅 비어버리죠. 완벽한 비유는 아니지만… 다들 그런 경험 한 번쯤은 있잖아요 😅

긍정적인 측면: 인공지능은 (올바른 방향으로 활용될 경우) 환경에 진정으로 도움이 될 수 있습니다 🌿✨

이제 과소평가되는 부분을 살펴보겠습니다. AI는 솔직히 말해서 비효율적인 기존 시스템에서 배출량과 폐기물을 줄일 수 있습니다. (IEA: 에너지 최적화 및 혁신을 위한 AI)

인공지능이 도움을 줄 수 있는 분야

중요한 점은 AI가 "도움"을 준다고 해서 AI가 환경에 미치는 악영향이 자동으로 상쇄되는 것은 아니라는 것입니다. AI가 실제로 배치되고 사용되어 단순히 더 나은 대시보드를 제공하는 것이 아니라 실질적인 에너지 절감으로 이어지는지에 따라 달라집니다. 하지만 AI의 잠재력은 분명히 존재합니다. (IEA: 에너지 최적화 및 혁신을 위한 AI)

친환경 AI의 좋은 버전은 어떤 특징을 가지고 있을까요? ✅🌍

이 부분은 "좋아요, 그럼 이제 어떻게 해야 할까요?" 섹션입니다. 환경적으로 책임감 있는 AI 설정은 일반적으로 다음과 같은 특징을 갖습니다

  • 명확한 사용 사례 가치: 모델이 의사 결정이나 결과에 변화를 주지 못한다면, 그것은 단지 화려한 계산일 뿐입니다.

  • 측정 기능 내장: 에너지, 탄소 배출량 추정치, 활용률 및 효율성 지표는 다른 KPI와 마찬가지로 추적됩니다. CodeCarbon: 방법론

  • 적절한 크기의 모델사용: 더 작은 모델이 효과적일 때는 더 작은 모델을 사용하십시오. 효율성을 추구하는 것이 도덕적으로 잘못된 것은 아닙니다.

  • 효율적인 추론 설계: 캐싱, 배치 처리, 양자화, 검색 및 적절한 프롬프트 패턴. Gholami et al. (2021): 양자화 방법 조사(PDF) Lewis et al. (2020): 검색 증강 생성

  • 하드웨어 및 위치 인식: (가능한 경우) 전력망이 더 깨끗하고 인프라가 효율적인 곳에서 워크로드를 실행합니다. 탄소 집약도 API(GB)

  • 하드웨어 수명 연장: 활용도, 재사용 및 재정비를 극대화합니다. ITU: 2024년 글로벌 전자 폐기물 모니터.

  • 객관적인 보도를지향하십시오. 구체적인 수치가 없는 "친환경 AI"와 같은 모호한 주장이나 그린워싱 표현은 사용하지 마십시오.

만약 당신이 여전히 인공지능이 환경에 미치는 영향에 대해 관심을 갖고 있다면, 이제 그 해답은 철학적인 차원을 넘어 실질적인 문제로 다가옵니다. 인공지능은 당신의 선택에 따라 환경에 영향을 미칩니다.

비교표: 실제로 환경 영향을 줄이는 도구 및 접근 방식 🧰⚡

아래는 간단하고 실용적인 표입니다. 완벽하지는 않고, 몇몇 항목은 다소 주관적인 의견이 반영되어 있을 수 있지만, 실제 도구 선택은 원래 그런 것이니까요.

도구/접근 방식 청중 가격 작동 원리
탄소/에너지 추적 라이브러리(런타임 추정기) ML 팀 거의 무료 가시성을 확보해 준다는 점이 중요합니다. 추정치가 다소 불확실하더라도 가시성 확보는 절반의 성공이나 다름없습니다 코드카본
하드웨어 전력 모니터링(GPU/CPU 원격 측정) 인프라 + ML 무료 실제 소비량을 측정합니다. 벤치마킹에 유용합니다 (화려하진 않지만 가치 있는 자료입니다)
모델 증류 머신러닝 엔지니어 무료 (시간-비용 😵) 규모가 작은 학생 모델은 추론 비용을 훨씬 줄이면서도 비슷한 성능을 보이는 경우가 많습니다 Hinton et al. (2015): 신경망에서 지식 추출하기
양자화(낮은 정밀도의 추론) ML + 제품 무료 지연 시간과 전력 사용량을 줄여줍니다. 경우에 따라 음질이 약간 저하될 수 있지만, 전혀 저하되지 않는 경우도 있습니다 Gholami et al. (2021): 양자화 방법 개요 (PDF)
캐싱 + 배치 추론 제품 + 플랫폼 무료 중복 연산을 줄여줍니다. 특히 반복적인 프롬프트나 유사한 요청에 유용합니다
검색 증강 생성(RAG) 앱 팀 혼합 "메모리" 부담을 검색으로 넘겨주어 거대한 컨텍스트 윈도우의 필요성을 줄일 수 있습니다 Lewis et al. (2020): 검색 증강 생성
탄소 집약도에 따른 작업량 스케줄링 인프라/운영 혼합 유연한 근무 형태를 더 깨끗한 전동 창문으로 전환하는 것은 조정이 필요합니다 탄소 집약도 API(GB)
데이터센터 효율성 향상(활용률, 통합)에 중점 IT 리더십 (일반적으로) 지불됨 가장 화려하지는 않지만, 종종 가장 큰 효과를 가져오는 방법은 바로 '빈칸이 찬 시스템 운영을 중단하는 것'입니다 녹색 그리드: PUE
열 재활용 프로젝트 시설 상황에 따라 다릅니다 폐열을 유용한 자원으로 전환하는 것; 항상 가능한 것은 아니지만, 가능할 때는 꽤 괜찮은 아이디어입니다
“여기서 인공지능이 정말 필요할까요?” 확인 모든 사람 무료 불필요한 연산을 방지합니다. 가장 강력한 최적화는 (때로는) 거절하는 것입니다

빠진 게 보이시나요? "마법의 초록색 스티커를 사세요." 그런 건 없잖아요 😬

실용적인 지침서: 제품을 망치지 않고 AI의 영향을 줄이는 방법 🛠️🌱

인공지능 시스템을 구축하거나 구매하는 경우, 실제로 효과적인 현실적인 절차는 다음과 같습니다

1단계: 측정부터 시작하세요

  • 에너지 사용량을 지속적으로 추적하거나 추정하세요. CodeCarbon: 방법론

  • 학습 실행별 및 추론 요청별로 측정합니다.

  • 자원 활용도를 모니터링하세요 - 유휴 자원은 눈에 잘 띄지 않게 숨어 있는 경우가 많습니다. 그린 그리드: PUE

2단계: 작업에 맞게 모델 크기를 조정합니다

  • 분류, 추출, 라우팅에는 더 작은 모델을 사용하십시오.

  • 무거운 모델은 단단한 케이스에 사용하세요.

  • "모델 계층 구조"를 고려해 보세요. 먼저 작은 모델을 사용하고, 필요한 경우에만 더 큰 모델을 사용하는 것입니다.

3단계: 추론 최적화 (이 단계에서 규모 문제가 발생합니다)

  • 캐싱: 반복적인 쿼리에 대한 답변을 저장합니다(개인 정보 보호를 위한 세심한 조치가 필요합니다).

  • 일괄 처리: 하드웨어 효율성을 향상시키기 위해 요청을 그룹화합니다.

  • 결과물이 짧을수록 좋습니다. 긴 결과물은 비용이 더 많이 듭니다. 때로는 에세이가 필요하지 않을 수도 있습니다.

  • 프롬프트 관리: 정돈되지 않은 프롬프트는 계산 경로를 길게 만들고, 결과적으로 더 많은 토큰을 사용하게 됩니다.

4단계: 데이터 정리 개선

언뜻 보기엔 관련 없어 보이지만, 사실입니다

  • 데이터셋이 더 깨끗할수록 재학습 과정에서 발생하는 오류를 줄일 수 있습니다.

  • 소음이 적다는 것은 실험 횟수가 줄어들고 낭비되는 과정이 줄어든다는 것을 의미합니다.

5단계: 하드웨어를 소모품이 아닌 자산처럼 다루십시오

  • 가능한 경우 갱신 주기를 연장하십시오. ITU: 2024년 글로벌 전자 폐기물 모니터

  • 작업 부하가 가벼운 경우에는 오래된 하드웨어를 재사용하십시오.

  • "항상 최대치"로 설정하는 프로비저닝을 피하십시오.

6단계: 배포 방식을 현명하게 선택하세요

  • 가능하다면 전력 소비가 적은 곳에서 유연한 작업을 실행하세요. 탄소 집약도 API(GB)

  • 불필요한 복제를 줄이세요.

  • 지연 시간 목표를 현실적으로 설정하세요 (초저지연 시간은 비효율적인 상시 가동 설정을 강요할 수 있습니다).

네, 맞습니다… 때로는 가장 좋은 해결책은 간단합니다. 모든 사용자 동작에 대해 가장 큰 모델을 자동으로 실행하지 않는 것입니다. 그런 습관은 스위치를 켜러 가는 것이 귀찮다는 이유로 모든 전등을 켜둔 채로 두는 것과 같은 환경적인 악습입니다.

흔히 알려진 잘못된 상식 (그리고 진실에 더 가까운 것) 🧠🧯

오해: “AI는 항상 기존 소프트웨어보다 성능이 떨어진다”

진실: AI는 연산 능력이 더 많이 요구될 수 있지만, 비효율적인 수동 프로세스를 대체하고, 낭비를 줄이며, 시스템을 최적화할 수도 있습니다. 상황에 따라 달라집니다. IEA: 에너지 최적화 및 혁신을 위한 AI

오해: “문제는 훈련뿐이다.”

진실: 대규모 추론은 시간이 지남에 따라 지배적인 요소가 될 수 있습니다. 제품 사용량이 폭발적으로 증가하면 이것이 핵심 이슈가 됩니다. IEA: 에너지와 AI

오해: “재생에너지가 모든 문제를 즉시 해결해준다”

진실: 청정 전력은 많은 도움이 되지만, 하드웨어 발자국, 물 사용량 또는 반동 효과를 완전히 없애지는 못합니다. 그럼에도 불구하고 여전히 중요합니다. IEA: 에너지와 AI

오해: "효율적이면 지속가능하다"

진실: 수요 조절 없이 효율성을 높이면 오히려 전체적인 영향이 증가할 수 있습니다. 이것이 바로 반등 함정입니다. OECD(2012): 에너지 효율 개선의 다양한 이점(PDF)

통치, 투명성, 그리고 과장되지 않은 접근 방식 🧾🌍

기업의 경우, 바로 이 부분에서 신뢰가 쌓이거나 무너집니다.

이 부분에서 사람들이 눈을 굴리겠지만, 중요한 문제입니다. 책임감 있는 기술은 단순히 뛰어난 엔지니어링에만 국한되지 않습니다. 기술 발전 과정에서 발생하는 절충점을 외면하지 않는 것도 포함됩니다.

마무리 요약: AI가 환경에 미치는 영향에 대한 간략한 정리 🌎✅

(AI)이 환경에 미치는 영향은 전력, 물(경우에 따라), 하드웨어 수요 증가와 같은 추가적인 부하로 나타납니다. (IEA: 에너지와 AI, Li 외 (2023): AI의 에너지 소비를 줄이는 방법(PDF)) 또한 AI는 다른 분야의 배출량과 폐기물을 줄이는 강력한 도구를 제공하기도 합니다. (IEA: 에너지 최적화 및 혁신을 위한 AI) 최종 결과는 규모, 전력망의 청결도, 효율적인 선택, 그리고 AI가 실제 문제를 해결하는지 아니면 단순히 새로운 것을 만들어내는 데 그치는지에 따라 달라집니다. (IEA: 에너지와 AI)

가장 간단하고 실용적인 핵심을 말씀드리자면 다음과 같습니다

  • 측정하다.

  • 적정 크기.

  • 추론을 최적화합니다.

  • 하드웨어 수명을 연장하세요.

  • 절충점에 대해 솔직하게 이야기하세요.

만약 부담감을 느끼신다면, 마음을 진정시키는 진실이 하나 있습니다. 작고 사소한 운영상의 결정들을 수천 번 반복하는 것이 거창한 지속가능성 선언 하나보다 훨씬 효과적이라는 사실입니다. 마치 양치질과 같죠. 화려하진 않지만 효과는 확실하니까요 

실제 사례: 고객 지원 AI 비서의 리소스 사용량 줄이기 🌱🎧

대본

소규모 온라인 소매업체가 인공지능을 활용하여 배송 시간, 반품, 파손된 소포, 제품 사이즈 등 고객이 자주 묻는 질문에 답변하고자 한다고 상상해 보세요.

첫 번째 버전은 비효율적입니다. 질문이 간단하더라도 모든 고객 메시지가 사용 가능한 가장 큰 모델로 바로 전송됩니다. 또한 담당자가 지나치게 긴 답변을 작성하고, 정책 내용을 반복하며, 승인된 답변을 재사용하는 대신 동일한 질문에 수천 번씩 다시 답변합니다.

보다 합리적인 접근 방식은 "AI를 아예 사용하지 않는 것"이 ​​아닙니다. 적절한 규모의 AI를 사용하는 것입니다. 간단한 작업에는 가벼운 도구를 사용하고, 복잡한 사례에는 더 큰 모델을 활용하며, 해결된 티켓 수를 기준으로 그 효과를 측정하는 것입니다.

보조원이 필요로 하는 것

팀은 다음과 같은 준비를 할 것입니다:

현재 반품 정책

지역별 배송 규정

제품 사이즈 관련 참고 사항

환불, 불만 및 법적 문제에 대한 간략한 처리 절차

고객이 자주 묻는 질문 50가지 목록

반복 질문에 대한 승인된 간략 답변

요청 유형, 사용된 모델, 응답 길이, 에스컬레이션 필요 여부, 답변이 사람 검토를 통과했는지 여부 등을 포함하는 간단한 추적 시트입니다

예시 지침

가장 작고 적합한 모델 또는 규칙 기반 답변을 먼저 사용하십시오. 고객의 질문이 불분명하거나 감정적이거나 여러 문제를 포함하거나 둘 이상의 정책 정보를 종합해야 하는 경우에만 더 큰 모델을 사용하십시오. 고객이 자세한 설명을 요청하지 않는 한 답변은 120단어 이내로 작성하십시오. 확신이 부족한 경우, 추가 질문을 하거나 담당자에게 연결하십시오. 배송 예정일, 환불 승인 또는 정책 예외 사항을 임의로 만들어내지 마십시오.

테스트 방법

출시 전에 50건의 테스트를 실행하세요:

배송 관련 질문 10가지

10개의 반환 질문

제품 사이즈 관련 질문 10가지

불량품 관련 불만 10건

10개의 모호하거나 불분명한 메시지

각 답변에 대해 다음 사항을 확인하세요

올바른 정책이 사용되었습니까?

캐시된 승인된 답변이 문제를 해결했을 수도 있을까요?

더 큰 모델이 필요했을까요?

비서가 짧게 답변했나요?

답변 중 어떤 것이 새로운 정보를 만들어냈습니까?

민감한 사안은 적절하게 상위 부서로 보고되었습니까?

합리적인 합격 점수는 다음과 같을 것입니다: 정책 정확도 95%, 허위 환불 약속 없음, 그리고 지불 분쟁이나 법적 위협과 관련된 불만 사항에 대한 100% 상급자 보고.

결과

최적화 전후 50건의 티켓 테스트에서 시간 및 횟수를 기준으로 산출한 예시 결과:

최적화 전에는 50개의 티켓 모두 더 큰 모델을 사용했으며, 평균 답변 길이는 210단어였습니다.

최적화 후, 31개의 티켓은 캐시된 승인된 답변을 사용했고, 14개는 더 작은 모델을 사용했으며, 5개만 더 큰 모델을 사용했습니다.

평균 답변 길이가 210단어에서 92단어로 줄었습니다.

사람의 검토 시간은 4시간 10분에서 1시간 25분으로 단축되었습니다.

팀은 첫 번째 테스트 실행에서 잘못된 정책 답변 2개를 발견했지만, 원본 문서를 업데이트하고 더 명확한 에스컬레이션 규칙을 추가한 후에는 잘못된 정책 답변이 하나도 발견되지 않았습니다.

이는 해당 어시스턴트가 "친환경적"이라는 것을 증명하는 것은 아닙니다. 단지 환경적 주장을 검증할 수 있도록 하는 측정 기준을 보여줄 뿐입니다. 즉, 무거운 모델 호출 횟수 감소, 출력 시간 단축, 반복적인 생성 횟수 감소, 불필요한 검토 주기 감소 등을 의미합니다.

무슨 문제가 생길 수 있을까?

만약 모든 모호한 메시지가 "혹시 모를 경우를 대비해" 가장 큰 모델로 전달된다면, 보조 시스템은 여전히 ​​컴퓨팅 자원을 낭비할 수 있습니다.

캐시된 답변은 반품 정책이 변경되었는데 아무도 업데이트하지 않으면 위험해질 수 있습니다.

짧은 답변은 중요한 세부 정보를 누락할 경우 고객을 실망시킬 수 있습니다.

탄소 배출이나 에너지 관련 주장은 기업이 측정 방법을 제시하지 않고 절감률만 발표할 경우 그린워싱으로 간주될 수 있습니다.

가장 큰 실수는 모델 선택을 유일한 해결책으로 여기는 것입니다. 실제로 더 친환경적인 워크플로는 라우팅, 캐싱, 출력물 간소화, 원본 문서 품질 향상, 그리고 위험도가 높은 사례에 대한 사람의 검토를 통해 이루어집니다.

실질적인 교훈

영향력이 적은 AI 시스템은 대개 가장 화려한 시스템이 아닙니다. 그러한 시스템은 실제 사용량을 측정하고, 불필요하게 복잡한 추론을 피하며, 가능한 한 승인된 답변을 재사용하고, 중요한 결정에 대한 통제권을 여전히 인간에게 제공하는 시스템입니다.

자주 묻는 질문

인공지능은 거대 연구소뿐 아니라 일상생활에 어떤 영향을 미칠까요?

인공지능이 환경에 미치는 영향의 대부분은 학습 및 일상적인 "추론" 과정에서 GPU와 CPU를 실행하는 데이터 센터에 전력을 공급하는 데서 비롯됩니다. 단일 요청은 미미해 보일 수 있지만, 규모가 커지면 이러한 요청은 빠르게 누적됩니다. 또한 데이터 센터의 위치, 지역 전력망의 안정성, 그리고 인프라 운영 효율성에 따라 영향이 달라집니다.

인공지능 모델을 학습시키는 것이 모델을 사용하는 것(추론)보다 환경에 더 해로운가요?

학습은 초기에 상당한 컴퓨팅 자원을 소모할 수 있지만, 추론은 지속적으로 대규모로 실행되기 때문에 장기적으로 더 큰 컴퓨팅 자원을 차지하게 됩니다. 수백만 명이 매일 사용하는 도구라면 반복적인 요청으로 인해 일회성 학습 비용이 훨씬 더 많이 발생할 수 있습니다. 이것이 바로 최적화가 주로 추론 효율성에 집중되는 이유입니다.

인공지능은 왜 물을 사용하는 걸까요? 그리고 물은 항상 문제가 되는 걸까요?

인공지능(AI)이 물을 사용하는 주된 이유는 일부 데이터 센터가 수냉식 냉각 방식을 사용하거나, 전력 생산 과정에서 간접적으로 물이 소비되기 때문입니다. 특정 기후 조건에서는 증발식 냉각 방식이 전력 소비를 줄이는 대신 물 소비를 늘려 실질적인 상충 관계를 형성할 수 있습니다. 이러한 물 소비가 "나쁜" 것인지는 해당 지역의 물 부족 상황, 냉각 방식 설계, 그리고 물 사용량 측정 및 관리 여부에 따라 달라집니다.

AI의 환경 발자국 중 하드웨어와 전자 폐기물에서 발생하는 부분은 무엇입니까?

인공지능(AI)은 칩, 서버, 네트워킹 장비, 건물 및 공급망에 의존하는데, 이는 채굴, 제조, 운송 및 최종 폐기를 의미합니다. 반도체 제조는 에너지 집약적이며, 빠른 업그레이드 주기는 내재된 탄소 배출량과 전자 폐기물을 증가시킬 수 있습니다. 하드웨어 수명 연장, 재정비 및 활용도 향상은 환경에 미치는 영향을 크게 줄일 수 있으며, 때로는 모델 변경에 버금가는 효과를 가져올 수 있습니다.

재생에너지를 사용하면 AI가 환경에 미치는 영향을 해결할 수 있을까요?

청정 전력은 컴퓨팅으로 인한 배출량을 줄일 수 있지만, 물 사용, 하드웨어 제조, 전자 폐기물과 같은 다른 환경적 영향을 완전히 없애지는 못합니다. 또한 저렴한 컴퓨팅 비용이 전체적인 사용량 증가로 이어지는 "반등 효과"를 자동으로 해결하지도 않습니다. 재생 에너지는 중요한 수단이지만, 환경 발자국을 유발하는 여러 요소 중 하나일 뿐입니다.

반동 효과란 무엇이며, 인공지능과 지속가능성에 왜 중요한가?

반동 효과란 효율성 향상으로 인해 무언가가 더 저렴해지거나 쉬워지면 사람들이 그것을 더 많이 하게 되어, 때로는 절감 효과가 사라지는 현상을 말합니다. AI를 활용하면 저렴한 생산이나 자동화로 인해 콘텐츠, 컴퓨팅, 서비스에 대한 총 수요가 증가할 수 있습니다. 따라서 효율성 향상 자체를 축하하는 것보다 실제 성과를 측정하는 것이 훨씬 중요합니다.

제품에 악영향을 주지 않으면서 AI의 영향을 줄일 수 있는 실질적인 방법은 무엇일까요?

일반적인 접근 방식은 측정(에너지 및 탄소 배출량 추정, 활용률)부터 시작하여 작업에 맞게 모델 크기를 조정하고 캐싱, 배치 처리, 출력 시간 단축 등을 통해 추론을 최적화하는 것입니다. 양자화, 증류, 검색 증강 생성과 같은 기법은 컴퓨팅 요구량을 줄일 수 있습니다. 탄소 배출량을 고려한 워크로드 스케줄링이나 하드웨어 수명 연장과 같은 운영상의 선택은 종종 큰 효과를 가져옵니다.

인공지능이 환경을 해치는 대신 어떻게 환경에 도움이 될 수 있을까요?

인공지능(AI)은 실제 시스템을 최적화하는 데 활용될 경우 배출량과 폐기물을 줄일 수 있습니다. 예를 들어 전력망 예측, 수요 반응, 건물 냉난방 제어, 물류 경로 설정, 예측 유지보수, 누출 감지 등에 적용될 수 있습니다. 또한 산림 벌채 경보 및 메탄 감지와 같은 환경 모니터링에도 활용 가능합니다. 핵심은 단순히 더 나은 대시보드를 제공하는 것이 아니라, 시스템이 의사결정을 변화시키고 측정 가능한 절감 효과를 가져오는지 여부입니다.

기업들이 AI 관련 주장을 '친환경적으로 위장하는' 행위를 피하려면 어떤 지표를 보고해야 할까요?

총합 수치만 제시하는 것보다 작업별 또는 요청별 지표를 보고하는 것이 단위 수준에서 효율성을 보여주기 때문에 더 의미가 있습니다. 에너지 사용량, 탄소 배출량 추정치, 활용도, 그리고 관련이 있는 경우 물 사용량까지 추적하면 책임 소재를 명확히 할 수 있습니다. 또한 중요한 것은 범위(포함되는 내용)를 명확히 정의하고, 정량화된 증거 없이 "친환경 AI"와 같은 모호한 표현을 사용하지 않는 것입니다.

참고 자료

  1. 국제에너지기구(IEA) - 에너지와 인공지능 - iea.org

  2. 국제에너지기구(IEA) - 에너지 최적화 및 혁신을 위한 인공지능 - iea.org

  3. 국제에너지기구(IEA) - 디지털화 - iea.org

  4. 로렌스 버클리 국립 연구소(LBNL) - 미국 데이터 센터 에너지 사용 보고서(2024)(PDF) - lbl.gov

  5. Li 외 - AI의 "갈증"을 줄이는 방법 (2023) (PDF) - arxiv.org

  6. ASHRAE(TC 9.9) - 주류 데이터 센터에서 액체 냉각의 등장 및 확산(PDF) - ashrae.org

  7. 그린 그리드 - PUE-A 측정 기준에 대한 종합적인 분석 - thegreengrid.org

  8. 미국 에너지부(DOE) - FEMP - 연방 데이터 센터 냉각수 효율성 개선 기회 - energy.gov

  9. 미국 에너지부(DOE) - FEMP - 데이터 센터 에너지 효율 - energy.gov

  10. 미국 환경보호청(EPA) - 반도체 산업 - epa.gov

  11. 국제전기통신연합(ITU) - 2024년 글로벌 전자폐기물 모니터 - itu.int

  12. OECD - 에너지 효율 개선의 다양한 이점 (2012) (PDF) - oecd.org

  13. 탄소 집약도 API(영국) - carbonintensity.org.uk

  14. imec - 반도체 제조 과정에서 환경 영향 감소 - imec-int.com

  15. 유엔환경계획(UNEP) - MARS 작동 방식 - unep.org

  16. 글로벌 포레스트 워치 - GLAD 산림 벌채 경보 - globalforestwatch.org

  17. 앨런 튜링 연구소 - 생물 다양성 및 생태계 건강 평가를 위한 인공지능 및 자율 시스템 - turing.ac.uk

  18. CodeCarbon - 방법론 - mlco2.github.io

  19. Gholami 외 - 양자화 방법 조사 (2021) (PDF) - arxiv.org

  20. Lewis et al. - 검색 증강 생성(2020) - arxiv.org

  21. Hinton et al. - 신경망에서 지식 추출(2015) - arxiv.org

  22. 코드카본 - codecarbon.io

최신 AI 기술을 공식 AI 어시스턴트 스토어에서 만나보세요

회사 소개

블로그로 돌아가기

추가 FAQ

  • 인공지능이 에너지 소비에 어떤 영향을 미치고 있을까요?

    AI는 데이터 센터에서 모델 학습과 일상적인 작업 처리(추론)에 사용되는 전력을 통해 에너지 소비에 상당한 영향을 미칩니다. 요청량이 증가함에 따라 에너지 사용량은 빠르게 누적될 수 있습니다.

  • 인공지능이 환경에 미치는 영향에서 물은 어떤 역할을 할까요?

    데이터센터 구성에서 물은 주로 냉각에 사용됩니다. 냉각 방식의 선택은 전체적인 물 소비량에 상당한 영향을 미칠 수 있으며, 특히 물 부족 지역에서는 더욱 그렇습니다.

  • 인공지능이 환경에 미치는 영향은 전력 사용량에만 국한되는 것일까요?

    아니요, AI의 환경적 영향은 전력 소비에만 국한되지 않습니다. 칩이나 서버 같은 하드웨어 제조 과정에서 발생하는 영향은 물론, 이러한 기기들이 폐기될 때 발생하는 전자 폐기물까지 모두 포함됩니다.

  • 인공지능을 최적화하여 환경에 미치는 영향을 줄이는 방법은 무엇일까요?

    AI 최적화에는 모델 크기 조정, 추론 효율성 향상, 하드웨어 수명 연장, 친환경 에너지원 사용 등 여러 전략이 포함될 수 있습니다. 캐싱 및 요청 배치 처리와 같은 기술을 활용하는 것도 에너지 사용량을 줄이는 데 도움이 됩니다.

  • 인공지능과 지속가능성 맥락에서 반등 효과란 무엇일까요?

    반동 효과는 인공지능의 효율성 향상이 사용량 증가로 이어질 때 발생합니다. 예를 들어, 인공지능이 특정 작업을 더 저렴하고 쉽게 만들어준다면, 사람들은 그러한 작업을 더 자주 수행하게 되어 효율성 향상으로 인한 이점을 상쇄할 가능성이 있습니다.

  • 인공지능은 환경 지속가능성에 어떻게 긍정적으로 기여할까요?

    인공지능은 다양한 분야에서 효율성을 높여 물류를 최적화하고, 에너지 관리를 개선하며, 폐기물을 줄이는 데 도움을 줄 수 있으며, 궁극적으로 배출량을 줄이고 전반적인 환경 발자국을 축소하는 데 기여할 수 있습니다.

  • 인공지능이 환경에 미치는 영향을 평가하는 데 어떤 지표를 사용해야 할까요?

    의미 있는 지표에는 에너지 소비량, 요청당 탄소 배출량, 자원 활용도 추적 등이 포함됩니다. 이러한 지표는 AI의 환경적 영향을 더욱 명확하게 보여주고 지속가능성을 보다 정확하게 평가하는 데 도움이 됩니다.

  • 재생에너지를 사용하면 AI가 환경에 미치는 영향을 완전히 완화할 수 있을까요?

    재생에너지를 사용하면 AI의 전력 소비와 관련된 배출량을 크게 줄일 수 있지만, 하드웨어 제조 과정의 영향이나 전자 폐기물과 같은 문제는 해결하지 못합니다. 모든 요소를 ​​고려한 총체적인 접근 방식이 필요합니다.