AI 전력난 해결을 위한 혁신적 접근 효율적인 AI 소프트웨어 개발

AI 전력난 해결을 위한 혁신적 접근 효율적인 AI 소프트웨어 개발

샘 올트먼 오픈AI 최고경영자(CEO)가 투자한 원자력에너지업체 오클로(Oklo)는 2027년 가동을 목표로 소형모듈원자로(SMR) 개발을 진행 중입니다. 마이크로소프트(MS) 또한 미국 최대 원전 서비스 업체인 콘스텔레이션 에너지와 원자력 전력 공급계약을 체결했습니다. 이는 AI 기술의 급속한 발전으로 인해 증가하는 전력 수요를 해결하기 위한 중요한 조치입니다.

AI와 전력 수요

AI 기술이 발전하면서 전력 수요가 급증하고 있습니다. 특히, MS와 오픈AI가 짓는 초대형 데이터센터는 막대한 전기를 소모할 가능성이 큽니다. 이러한 이유로 빅테크 기업들은 차세대 원전 기술에까지 손을 뻗고 있습니다.

효율적인 AI 소프트웨어 기술 개발

이러한 상황 속에서 국내 스타트업 호두에이아이랩은 기존의 절반 이하 전력으로 동일한 성능을 낼 수 있는 AI 소프트웨어 기술을 개발했습니다. 이정우 서울대 전기정보공학부 교수가 설립한 이 회사는 보다 효율적인 AI 알고리즘을 설계하여, 전력 소모를 최소화하면서도 성능을 유지하는 기술을 선보였습니다.

이 교수는 "AI 소모 전력 절감 노력은 반도체 하드웨어 개선과 소프트웨어 개선 두 가지로 나뉜다"며, 이번 기술은 소프트웨어 분야에서의 혁신이라고 설명했습니다. 협력사인 사피온과 함께 검증한 결과, 동일한 작업을 수행하면서 소모 전력을 50% 이하로 줄일 수 있다고 밝혔습니다.

기술의 원리

이 교수는 "AI의 사용 목적에 따라 꼭 필요한 연산만 수행하면 불필요한 에너지를 소모하지 않아도 된다"고 설명했습니다. 예를 들어, 영상 속 물체를 구별할 때 배경 픽셀까지 점검하는 대신 물체 부분만 확인하면 된다는 것입니다. 이는 마치 중학생 수준의 수학 문제를 푸는데 우주로켓을 쏘기 위한 슈퍼 컴퓨터를 가동할 필요가 없다는 비유와 같습니다.

AI 반도체 사용 증가와 전력난 우려

마크 저커버그 메타(페이스북) CEO는 올해 말까지 컴퓨팅 인프라에 35만 개의 H100을 포함하는 목표를 밝힌 바 있습니다. 엔비디아 H100은 개당 4만~5만 달러 선이어서 구입에 천문학적 비용이 들며, 한꺼번에 가동할 경우 전력 소모도 상당할 것으로 예상됩니다. 따라서 '고성능 저전력' AI 알고리즘의 필요성이 더욱 강조되고 있습니다.

이 교수는 "기존의 AI 연구 방향은 에너지를 얼마나 쓰든 고성능을 내는 것"이라며 "반대로 우리 팀은 더 적은 에너지로 같은 기능을 낼 수 있다는 발상의 전환을 했다"고 말했습니다.

기술 적용 및 미래 전망

새 기술은 이미 국내 제약회사의 검수 장비(머신비전)에 적용되고 있으며, 데이터센터용 AI 반도체나 자율주행차에 탑재되는 NPU(신경망처리장치)에도 적용할 수 있을 전망입니다. 남은 과제는 지속적인 투자와 연구개발을 통한 기술 개선입니다.

이 교수는 "영상 기반 AI에 비해 자연어 처리는 난이도가 높아 완성도를 더 높여야 한다"며 "LLM(거대언어모델) 등 AI의 전력 소모를 줄이는 기술로 생성형 AI발 전력난 해소에 기여하겠다"고 밝혔습니다.

요약

• AI 전력 수요 증가: AI 기술 발전으로 전력 수요 급증, 빅테크 기업들이 원전 기술에 투자.
• 효율적인 AI 소프트웨어 개발: 호두에이아이랩, 절반 이하 전력으로 동일한 성능을 낼 수 있는 AI 알고리즘 개발.
• 기술의 원리: 꼭 필요한 연산만 수행하여 불필요한 에너지 소모 줄임.
• AI 반도체 사용 증가와 전력난 우려: 엔비디아 H100 등 고성능 AI 칩 사용 증가, 전력 소모 문제 대두.
• 기술 적용 및 미래 전망: 국내 제약회사 및 다양한 분야에 적용, 지속적인 연구개발 필요.

이번 기술 혁신은 AI로 인한 전력난 문제를 해결하는 중요한 돌파구가 될 것입니다. AI 기술의 지속 가능한 발전을 위해서는 이러한 효율적인 알고리즘 개발이 필수적입니다.