인공지능은 인프라가 되고 있다.
그것은 검색, 사무 업무, 의료, 교육, 연구, 제조로 이동하고 있다. 또한 일상적인 결정이 이루어지는 작은 틈새로도 들어가고 있다: 무엇을 먼저 할지, 어떤 선택이 자원을 덜 쓰는지, 복잡한 주장이 우리의 신뢰를 받을 자격이 있는지.
그것은 우리가 던져야 할 질문을 바꾼다. "AI가 무엇을 할 수 있는가?"는 더 이상 가장 중요한 질문이 아니다. 더 어려운 질문은 이것이다: AI 역량이 우리의 제도, 에너지 시스템, 사회적 합의보다 빠르게 발전함에 따라, 우리는 어떻게 AI가 효율성, 자원, 권력을 소수에게 집중시키는 대신 인간의 가능성을 확장하도록 할 수 있는가?
이것은 AI가 세상을 구할 것이라는 주장이 아니다. AI가 세상을 파괴할 것이라는 주장도 아니다. 이것은 하나의 작업 가설이다: AI는 지속 가능한 발전을 위한 증폭기가 될 수 있지만, 우리가 무엇을 증폭할 가치가 있는지 결정한 후에만 그렇다.
그 질문은 우리가 AirJelly를 생각하는 방식과 가깝다. 주도적인 AI 동반자는 단순히 더 많은 결과물을 만들거나 더 많은 제안으로 사람들을 방해해서는 안 된다. 그것은 사람들이 맥락을 이해하고, 저가치 마찰을 줄이며, 인간의 판단을 계속 개입시키도록 도와야 한다. 같은 기준이 사회 규모에서 AI를 생각할 때도 적용되어야 한다.
01. 진보에는 더 넓은 정의가 필요하다
지난 수십 년의 상당 기간 동안 기술 진보는 속도, 규모, 결과물로 측정되어 왔다. 모델은 더 빨라진다. 공장은 더 자동화된다. 콘텐츠는 더 풍부해진다. 의사결정 사슬은 더 짧아진다.
그러한 측정치는 중요하지만, 그것들은 인간 발전과 같지 않다.
유엔 지속가능발전목표는 발전을 서로 연결된 책임의 집합으로 설명한다: 빈곤과 기아 종식, 건강과 교육 개선, 양질의 일자리 창출, 불평등 감소, 기후 행동, 평화롭고 책임 있는 제도 구축. 성장은 단일한 순위표가 아니다. 그것은 시간이 지나도 유지 가능해야 하는 관계의 집합이다.
AI는 지역적 목표를 최적화하는 데 매우 뛰어나기 때문에 특별한 도전을 만든다.
목표가 평균 고객 서비스 응답 시간을 최소화하는 것이라면, 시스템은 인간의 개입을 줄일 수 있다. 목표가 참여를 극대화하는 것이라면, 더 많은 자극을 만들어낼 수 있다. 목표가 예측 정확도를 높이는 것이라면, 소수자의 경험을 덜 보이게 만들 수 있다. 모든 지역적 지표는 개선되면서 전체 삶의 질은 나빠질 수 있다.
지속 가능한 AI는 성공에 대한 더 넓은 정의를 필요로 한다: 더 많은 사람에게 더 긴 기간 동안 신뢰할 수 있고, 공정하며, 회복 가능한 가치.
이는 제품 지표가 덜 화려하지만 더 중대한 질문을 포함해야 함을 의미한다. 시스템이 얼마나 많은 에너지와 물자를 절약했는가? 얼마나 많은 반복 작업을 제거했는가? 누가 역량을 얻었고, 누가 선택권을 잃었는가? 시스템이 실패할 때, 누가 그것을 알아차리고, 바로잡고, 이의를 제기할 수 있는가?
최고의 AI 제품은 사람들이 지능에 둘러싸여 있다고 느끼게 하는 제품이 아니다. 사람들이 중요한 곳에 주의를 쏟도록 돕는 제품이다.
02. AI는 우리가 시스템을 보도록 도울 수 있다. 그러나 가치 판단을 대신할 수는 없다.
기후 및 생태 문제는 단지 정보가 부족해서 어려운 것이 아니다. 시스템이 복잡하고, 피드백이 지연되며, 책임이 분산되어 있고, 많은 비용이 단일 조직의 분기 보고서에 나타나지 않기 때문에 어렵다.
AI는 그 복잡성의 일부를 처리하는 데 적합하다. 그것은 연구자들이 위성 이미지, 센서 데이터, 기상 기록, 공급망 정보를 결합하도록 도울 수 있다. 전력망이 수요를 예측하고 재생 에너지를 통합하도록 도울 수 있다. 건축가가 자재, 에너지 사용, 생애주기 영향을 비교하도록 도울 수 있다. 농부가 관개, 해충, 토양 상태의 패턴을 식별하도록 도울 수 있다.
국제에너지기구(IEA)의 Energy and AI 보고서는 전력 시스템, 건물, 산업, 교통, 에너지 혁신에서 AI의 의미 있는 기회를 지적한다. 또한 방정식의 다른 측면도 무시할 수 없게 만든다: 데이터 센터와 AI 자체가 더 많은 전력을 필요로 한다.
AI는 본질적으로 친환경적이지도, 비친환경적이지도 않다. 그 영향은 그것이 배치되는 시스템, 그것을 구동하는 에너지, 그리고 그것이 최적화하도록 요청받는 목표에 달려 있다.
같은 모델이 전력망이 최대 수요를 줄이도록 도울 수도 있고, 끝없는 저가치 연산과 소비의 흐름을 만들어낼 수도 있다. 우리는 모델이 얼마나 많은 에너지를 사용하는지만 물어서는 안 된다. 우리는 그것이 모델이 소비하는 것보다 더 많은 에너지, 물자, 시간, 위험을 더 넓은 시스템이 절약하도록 돕는지 물어야 한다.
이것이 AI가 최종 판단자가 아니라 관찰자, 조정자, 시나리오 구축자로 취급되어야 하는 이유다. 그것은 예측을 생성하고, 트레이드오프를 드러내며, 복잡한 패턴을 읽을 수 있게 만들 수 있다. 그것은 강의 가치가 무엇인지, 습지가 개발되어야 하는지, 누구의 위험이 수용 가능한지를 스스로 결정할 수 없다.
그러한 결정은 여전히 공론, 법, 인간의 판단에 속한다.
03. 연산은 물질 세계의 일부다
대규모 모델에 대해 이야기할 때, 무형의 결과물만 보기 쉽다: 텍스트, 이미지, 답변, 예측. 그러한 모든 결과물은 여전히 물리적 칩, 서버, 냉각 시스템, 전력, 토지, 물에 의존한다.
데이터 센터 수요는 인프라 문제가 되고 있다. IEA의 Electricity 2024 분석은 데이터 센터, AI, 암호화폐로 인한 전력 소비가 2026년까지 두 배 이상 증가할 수 있다고 전망했다. 정확한 증가는 효율성, 지역 에너지 구성, 수요에 따라 달라지겠지만, 방향은 분명하다: AI는 전력 시스템과 독립적으로 확장될 수 없다.
이것은 연구나 유용한 응용이 중단되어야 한다는 의미가 아니다. 우리가 효율성에 대한 더 나은 정의를 필요로 한다는 의미다.
더 큰 모델이 자동으로 그 비용에 비례하는 공공 가치를 창출하지는 않는다. 더 긴 답변이 자동으로 더 유용하지는 않다. 모든 작업을 가장 비싼 모델로 보내는 것이 자동으로 더 나은 제품 설계는 아니다.
성숙한 시스템은 작업의 난이도에 따라 모델을 선택한다. 가능한 경우 결과를 재사용한다. 불필요한 호출을 피한다. 중요한 자원 경계를 가시화한다. 연산을 의도적으로 지출할 대상으로 취급한다.
이것은 간단한 제품 원칙이다: 연산이 사고를 대신하게 하지 말라.
어려운 문제가 신중한 추론을 필요로 할 때, AI는 도구다. 시스템이 단지 지능적으로 보이기 위해 계속 생성하고, 상기시키고, 재평가한다면, 그것은 낭비에 가깝다.
04. 지속 가능성은 인간의 역량을 빼앗지 않는 것이기도 하다
AI가 단지 인건비를 줄이는 데만 사용된다면, 지속 가능한 발전은 더 적은 사람이 더 많은 일을 하게 만드는 완곡어가 된다. 그것은 택하기 쉬운 길이며, 위험한 길이다.
국제노동기구(ILO)의 2023년 생성형 AI와 일자리에 관한 연구는 생성형 AI가 전체 직업을 즉시 없애기보다는 많은 직업 내에서 작업을 변형하고 증강할 가능성이 더 높다고 시사한다. 그러나 그 영향은 국가, 산업, 성별, 업무 유형에 따라 고르지 않다. 평균적 이익은 누가 전환 비용을 지불하는지 말해주지 않는다.
인간 중심의 AI 시스템은 "우리가 몇 개의 일자리를 자동화했는가?"라는 질문을 더 유용한 질문으로 대체해야 한다:
- 위험하거나 반복적이거나 저가치 작업을 줄였는가?
- 사람들이 배우고, 돌보고, 창조하고, 판단력을 발휘할 더 많은 시간을 갖게 했는가?
- 사용자가 시스템의 한계를 이해하는가, 아니면 단순히 그 결론을 받아들이도록 기대되는가?
- 결정의 영향을 받는 사람들이 이의를 제기하고, 검토를 요청하고, 거부할 수 있는가?
유네스코의 인공지능 윤리 권고는 인간의 존엄성, 자율성, 투명성, 설명 가능성, 책임성, 환경 보호를 책임 있는 AI의 중심에 둔다. 이것들은 제품 결정이 되기 전까지는 추상적으로 들릴 수 있다: 인간의 검토를 보존하라; 불확실성을 보여라; 추적 가능한 결정 이력을 유지하라; 침묵을 동의로 취급하지 말라; 사람들이 시스템이 자신에 대해 믿는 것을 바로잡을 수 있게 하라.
이것은 개인적 맥락이 중요한 지점이기도 하다. 올바른 것을 기억하는 어시스턴트는 인지적 부담을 줄일 수 있다. 조용히 기억을 통제로 바꾸는 어시스턴트는 그 반대를 할 수 있다. AirJelly에서 맥락의 요점은 한 사람을 완벽하게 예측하는 것이 아니다. 그것은 한 사람이 자신이 축적한 맥락을 더 많은 주체성으로 사용하도록 돕는 것이다.
AI가 사람들이 기억하고, 판단하고, 조직하고, 반대 의견을 말하는 능력을 떨어뜨린다면, 그것은 단기적 효율성을 개선하면서 사회의 장기적 회복력을 약화시킬 수 있다.
05. 분기점은 사람들이 AI를 가지는지 여부가 아니라, 누가 그것을 사용하고 통제할 수 있는가이다
가장 깊은 지속 가능성 위험은 종종 기술 자체가 아니다. 그것은 그 혜택과 위험의 불평등한 분배다.
고급 컴퓨팅, 데이터, 인재, 인프라가 상대적으로 소수의 국가와 기업에 집중되어 있습니다. 부유한 지역은 기후 모델링, 의료 검진, 개인 맞춤형 교육에 AI를 활용할 수 있습니다. 자원이 부족한 지역은 설계, 감사, 거버넌스에서 의미 있는 역할을 하지 못한 채 사람들을 점수화하거나 감시하거나 분류하는 외부 시스템을 받아들일 수 있습니다.
이는 기존의 불평등을 재생산할 수 있습니다. 더 많은 데이터를 가진 사람들은 더 나은 서비스를 받습니다. 더 많은 자원을 가진 조직은 더 많은 효율성을 얻습니다. 취약한 집단은 예측되고, 분류되고, 관리될 가능성이 더 커집니다.
따라서 AI 지속가능성 의제는 배포에만 초점을 맞출 수 없습니다. 그것은 또한 공공 역량을 구축해야 합니다: 개방형 표준, 저렴한 인프라, 다언어 시스템, 지역 지식, 공익 연구, 그리고 정부, 학교, 지역사회, 시민사회 단체가 중요한 시스템을 검토할 수 있게 하는 메커니즘입니다.
공정성은 제품이 완성된 후에 추가되는 '공공재 모드'가 아닙니다. 그것은 문제 정의, 데이터, 배포 맥락, 가격 모델, 그리고 실패가 처리되는 방식에서 시작됩니다.
동일한 원칙이 개인용 AI에도 적용됩니다. 유용한 동반자는 한 사람의 맥락을 독점적인 감옥으로 바꿔서는 안 됩니다. 그것은 맥락을 더 쓸모 있게 만들되, 소유권과 정정, 방향 설정은 그 사람에게 남겨두어야 합니다.
06 AI를 장기적인 협력자로 만들기
AI가 지속 가능한 발전을 뒷받침하려면, 사용하기에 충분히 단순하면서도 의미를 지닐 만큼 엄격한 원칙이 필요합니다.
공공 가치에서 시작하고, 그다음 모델을 선택하라
“여기에 모델을 추가할 수 있을까?”로 시작하지 마십시오. “어떤 실제 문제를 해결할 가치가 있는가?”로 시작하십시오. 간호사들의 행정 부담을 줄여주는 시스템은 이미 소음이 많은 피드에 콘텐츠만 더 추가하는 시스템과 같은 지표로 평가되어서는 안 됩니다.
제품 의사결정에 생애주기 비용을 반영하라
비용은 API 청구서 그 이상을 포함한다. 여기에는 에너지, 하드웨어, 데이터 거버넌스, 유지보수, 마이그레이션, 교육, 그리고 오류의 사회적 비용이 포함된다. 영향력이 큰 환경에서는 생애주기 평가가 기능 평가만큼 중요해야 한다.
의사결정을 내리는 사람에게 불확실성을 보여주라
지속 가능한 시스템은 항상 확신하는 척할 수 없다. 신뢰도, 데이터 최신성, 적용 범위, 알려진 실패 모드는 사람들이 행동할 때 가시화되어야 한다. “모르겠다”고 솔직하게 말하는 것이 유창하지만 틀린 답을 주는 것보다 종종 더 유용하다.
영향받는 사람들이 설계에 참여하게 하라
시스템에 의해 평가받거나 서비스를 받거나 관리되는 사람들은 단지 데이터셋의 행으로만 존재해서는 안 된다. 교사, 간호사, 노동자, 농민, 장애인, 지역사회 단체는 설계, 테스트, 검토에서 실질적인 목소리를 가져야 한다.
이탈하고 정정할 권리를 보존하라
모든 워크플로에 자동화가 필요한 것은 아니다. 모든 자동화된 워크플로가 되돌릴 수 없어야 하는 것도 아니다. 필수 서비스에는 대체 채널, 인간 검토, 추적 가능한 이의제기 절차가 필요하다.
시스템이 하지 않기로 선택하는 것을 기준으로 성숙도를 측정하라
성숙한 AI 제품은 점점 더 많은 결정을 모델에 맡기지 않습니다. 어떤 결정이 인간에게 남아 있어야 하는지 알고 있습니다. 불필요한 생성, 알림, 결정 루프를 줄이는 것도 진보입니다.
07 마지막 질문은 여전히 이것입니다: 우리는 어떤 사람이 되고 싶은가?
기술은 조직이 이미 일하는 방식을 증폭시키는 경향이 있습니다.
만약 우리가 교육을 답안 생산으로, 일을 압축 가능한 과업의 집합으로, 자연을 최적화할 자산으로, 사람을 예측 가능한 사용자로 취급한다면, AI는 그러한 가정을 가속화할 것입니다.
그러나 우리가 교육을 판단력의 함양으로, 노동을 공동의 창조로, 자연을 우리가 더불어 살아가야 하는 시스템으로, 그리고 사람을 존엄하고 관계적이며 부분적으로는 알 수 없는 존재로 여긴다면, AI는 우리가 시간을 지키고, 복잡성을 보고, 거리를 넘어 협업하며, 장기적 목표를 위한 여지를 마련하도록 도울 수 있다.
지속 가능한 발전은 결코 세상을 무한히 효율적으로 만드는 것을 의미하지 않았다. 그것은 유한한 행성 위에서 인류가 선택하고, 관계를 회복하며, 미래를 돌보는 능력을 보존하는 것을 의미한다.
AI가 그 일의 동반자가 될지 여부는 우리가 그것에 부여하는 과업, 경계, 제도에 달려 있다. 모델은 계속 더 강력해질 것이다. 그러나 어떤 모델도 무엇이 할 가치가 있는지를 우리 대신 결정하지는 않을 것이다.
그 부분은 여전히 우리의 몫이다.
참고 문헌
- 기후변화에 관한 정부간 협의체(IPCC). AR6 종합 보고서: 기후 변화 2023. 2023. https://www.ipcc.ch/report/ar6/syr/
- 국제연합(UN). 우리 세계의 전환: 2030 의제와 지속가능발전목표. 2015. https://sdgs.un.org/2030agenda
- 국제에너지기구(IEA). 전력 2024: 2026년까지의 분석 및 전망. 2024. https://www.iea.org/reports/electricity-2024
- 국제에너지기구(IEA). 에너지와 AI. 2025. https://www.iea.org/reports/energy-and-ai
- Gmyrek, P., Berg, J., & Bescond, D. 생성형 AI와 일자리: 일자리의 양과 질에 대한 잠재적 영향의 글로벌 분석. ILO 워킹 페이퍼 96, 국제노동기구, 2023.
- 유네스코(UNESCO). 인공지능 윤리에 관한 권고. 2021. https://www.unesco.org/en/legal-affairs/recommendation-ethics-artificial-intelligence
- 유엔환경계획(UNEP). 배출 격차 보고서 2024: 더 이상 뜨거운 공기는 그만 ... 제발!. 2024. https://www.unep.org/resources/emissions-gap-report-2024
- 스탠퍼드 인간중심 인공지능 연구소. AI 인덱스 보고서 2025. 2025. https://hai.stanford.edu/ai-index/2025-ai-index-report
- OECD. OECD AI 원칙. 2024년 개정. https://oecd.ai/en/ai-principles