엔비디아, AI 팩토리 전력 효율 제어를 위한 ‘DSX MaxLPS’ 및 ‘DSX Flex’ 공개

풀스택 하드웨어·소프트웨어 플랫폼과 전력망 연동 기술로 메가와트당 토큰 처리량 1.4배 향상 및 가변 부하 관리 구현

엔비디아(NVIDIA)가 미국 산타클라라 컨벤션 센터에서 열린 ‘AI 인프라 서밋(AI Infra Summit)’에서 인공지능 팩토리(AI Factory)의 전력 효율성과 확장성을 혁신하는 차세대 기술을 대거 공개했다. 최근 자율적으로 판단하고 작업을 수행하는 에이전틱 AI(Agentic AI)의 확산으로 데이터센터의 전력 수요가 급증하는 가운데, 엔비디아는 실리콘 반도체부터 전력망(Power Grid)에 이르는 통합 전력 최적화 솔루션을 제시했다.

DSX MaxLPS와 풀스택 플랫폼으로 메가와트당 토큰 처리량 극대화

AI 인프라의 성능 지표는 단순한 단순 최고 연산 속도에서 실제 검증된 전력 단위당 처리 능력인 ‘메가와트(MW)당 에이전틱 토큰’으로 빠르게 전환되고 있다. 엔비디아는 이러한 요구에 맞춰 차세대 아키텍처인 베라 루빈(Vera Rubin) 시스템, 다이나모(Dynamo) 추론 소프트웨어, 네모(NeMo) 라이브러리, 고속 네트워킹을 하나로 묶은 풀스택 AI 팩토리 플랫폼을 선보였다.

특히 전력 최적화 기술인 ‘엔비디아 DSX MaxLPS’는 AI 팩토리 전체의 전력 소모를 정밀하게 통제하여 동일한 메가와트 전력당 최대 1.4배 더 많은 토큰을 처리하도록 지원한다. 클라우드 서비스 기업인 람다(Lambda)는 DSX MaxLPS를 적용해 와트당 성능을 23% 개선했다. 아마존의 안나푸르나 랩스(Annapurna Labs)와 d-매트릭스(d-Matrix) 등 주요 파트너사들도 엔비디아의 맞춤형 고대역폭 메모리(NVHBM) 및 NV링크 퓨전(NVLink Fusion) 기술을 결합하여 초저지연 연산과 전력 효율을 동시 달성하고 있다.

전력망 대응형 ‘DSX Flex’ 기술을 통한 가변 부하 자동 제어

AI 데이터센터의 폭발적인 전력 소비는 지역 전력망에 큰 부담을 주고 있다. 엔비디아는 이를 해결하기 위해 전력망의 신호에 따라 AI 팩토리의 전력 사용량을 실시간으로 자동 조절하는 ‘엔비디아 DSX 플렉스(DSX Flex)’ 기술을 도입했다.

DSX Flex는 전력 회사의 부하 감축 요청이나 수요반응(DR; Demand Response) 이벤트, 전기 요금 변동 신호를 수신하면 미리 설정된 우선순위에 따라 전력 사용을 자율 조정한다. 중요도가 낮은 AI 작업의 전력 소모를 자동으로 줄이거나 일시 중단했다가 전력망이 안정되면 복구하는 방식이다. 에메랄드 AI(Emerald AI)와 실리콘밸리 파워(Silicon Valley Power)는 이 기술을 활용해 우선순위가 높은 핵심 AI 연산을 차질 없이 보호하면서도 전력망 부하를 안정적으로 줄이는 유연 부하 연계 시연에 성공했다.

용어 해설 (Glossary)

• DSX MaxLPS: AI 팩토리 전체의 전력을 최적화하여 동일한 전력(메가와트)당 생성하는 토큰 처리량을 최대 1.4배까지 높여주는 엔비디아의 전력 최적화 솔루션이다.
• DSX Flex: 전력망의 수요반응(DR) 신호나 가격 변동에 맞춰 AI 팩토리의 전력 사용량을 자율적으로 조절하고 워크로드 우선순위에 따라 부하를 분산하는 전력 관리 기술이다.
• 에이전틱 토큰 (Agentic Token): 스스로 판단하고 복잡한 작업을 수행하는 에이전틱 AI(Agentic AI)가 결과물을 생성할 때 사용하는 전력 대비 연산 처리 단위다.
• 수요반응 (DR; Demand Response): 전력망의 부하를 줄이기 위해 전력 회사의 요청 신호에 따라 사용자가 전력 사용량을 전기 소비 피크 시간에 자동으로 줄이는 제도 및 기술이다.