엔비디아, 글로벌 클라우드 4사와 협력… ‘다이나모’ 기반 AI 추론 가속화

AWS·구글·MS·OCI 전반에 최적화된 컴파일러 배포… 대규모 모델 실행 효율 극대화

엔비디아(NVIDIA)가 아마존웹서비스(AWS), 구글 클라우드(Google Cloud), 마이크로소프트 애저(Microsoft Azure), 오라클 클라우드 인프라스트럭처(OCI) 등 글로벌 주요 클라우드 서비스 제공업체(CSP)와 협력하여 ‘엔비디아 다이나모(NVIDIA Dynamo)’ 기반의 AI 추론 가속화를 추진한다. 이번 협력은 복잡한 인공지능 모델을 클라우드 환경에서 더 빠르고 효율적으로 구동할 수 있도록 소프트웨어 최적화 기술을 통합하는 것을 골자로 한다.

소프트웨어 가속의 핵심, ‘엔비디아 다이나모’ 컴파일러

인공지능 모델을 실행할 때 소프트웨어 코드를 하드웨어가 이해할 수 있는 최적의 명령어로 변환하는 과정이 필요하다. ‘엔비디아 다이나모’는 파이토치(PyTorch)와 같은 최신 AI 프레임워크와 엔비디아 GPU 사이를 연결하는 지능형 컴파일러 기술이다. 이 기술은 모델의 구조를 분석하여 연산 과정을 단순화하고, GPU의 성능을 100% 끌어낼 수 있도록 코드를 재구성한다.

기존에는 클라우드 업체마다 하드웨어 구성이 달라 최적화 작업에 많은 시간이 소요되었다. 하지만 이번 협력을 통해 다이나모 기술이 각 클라우드 플랫폼에 기본적으로 통합됨에 따라, 개발자들은 별도의 복잡한 수정 없이도 즉시 가속화된 추론 성능을 경험할 수 있다. 이는 특히 수십억 개의 매개변수를 가진 거대 언어 모델(LLM)을 운영하는 기업들에게 큰 혜택이 된다.

클라우드 생태계 통합으로 AI 도입 장벽 완화

엔비디아와 클라우드 4사의 협력은 ‘AI 민주화’를 앞당기는 중요한 발걸음이다. AWS, 구글, MS, OCI 등 어떤 클라우드를 사용하더라도 동일하게 고성능 추론 환경을 누릴 수 있기 때문이다. 이는 기업들이 특정 클라우드 서비스에 종속되지 않고 유연하게 인프라를 선택할 수 있는 환경을 조성한다.

가속화된 다이나모 기반 추론은 지연 시간(Latency)을 줄이고 처리량(Throughput)을 높여준다. 결과적으로 사용자에게는 더 빠른 응답 서비스를 제공하고, 기업에는 서버 운영 비용을 절감하는 효과를 가져온다. 엔비디아는 앞으로도 클라우드 파트너들과 함께 소프트웨어 스택을 지속적으로 업데이트하여, 생성형 AI 시대에 걸맞은 강력한 컴퓨팅 패브릭을 구축해 나갈 계획이다.