엔비디아, DSX AI 팩토리용 오픈소스 SW 4종 공개… 대규모 AI 인프라 운영 최적화 지원-아이씨엔매거진

OCP 글로벌 서밋서 DSX OS 확장 도구 발표… 네트워크 구성부터 베어메탈 배포까지 수시간 내 단축

인공지능(AI) 컴퓨팅 선도 기업 엔비디아(NVIDIA)가 대규모 AI 데이터센터 인프라를 효율적으로 운영하기 위한 신규 오픈소스 소프트웨어(SW) 4종을 공개했다. 이번 소프트웨어는 DSX AI 팩토리 환경에서 네트워크 구성, 클러스터 검증, 랙 관리, 베어메탈(Bare Metal) 프로비저닝을 자동화하고 간소화하는 데 초점을 맞춘다.

하드웨어와 소프트웨어를 일체화한 DSX 아키텍처

엔비디아 DSX AI 팩토리 플랫폼(NVIDIA DSX AI factory platform)은 개별 서버 단위를 넘어 데이터센터 전체를 하나의 거대한 컴퓨팅 시스템으로 다룬다. 이 플랫폼은 연산 장치(컴퓨팅)와 고속 네트워크, 전력 공급망, 냉각 장치, 운영 소프트웨어를 유기적으로 결합하는 공동 설계 방식을 취한다. 이를 통해 제한된 전력과 냉각 설비 환경에서도 AI 데이터 처리량을 최대로 끌어올린다.

이러한 통합 아키텍처의 중심에는 개방형 운영 계층인 ‘DSX OS’가 자리 잡고 있다. DSX OS는 복잡한 데이터센터 하드웨어를 일관된 운영 체계로 제어하고 조율하는 역할을 담당한다. 엔비디아는 글로벌 오픈 컴퓨팅 프로젝트 행사인 ‘OCP 글로벌 서밋(OCP Global Summit)’을 통해 DSX OS를 뒷받침할 핵심 오픈소스 구성 요소를 선보였다.

4종의 오픈소스 도구로 배포 및 운영 자동화

이번에 공개된 오픈소스 도구는 대규모 인프라 운영 시 발생하는 병목 현상을 해결한다.

첫째, ‘엔비디아 구성 관리자(NVIDIA Config Manager)’는 대규모 네트워크 스위치의 설정을 자동으로 처리한다. 관리자의 수동 개입을 최소화하여 AI 팩토리 전체의 네트워크 패브릭을 일관되게 배포하고 유지한다.

둘째, ‘엔비디아 클러스터 준비 엔진(NVIDIA Cluster Readiness Engine)’은 실제 인공지능 학습 워크로드를 가상으로 시뮬레이션한다. 대규모 GPU 클러스터에 사전에 스트레스 테스트를 수행하여 하드웨어 결함이나 병목을 미리 찾아낸다. 이를 통해 학습 도중 발생할 수 있는 치명적인 작업 실패와 비용 손실을 방지한다.

셋째, ‘엔비디아 랙 관리 서비스(NVIDIA Rack Management Service)’는 서버 랙(Rack) 자체를 기본 관리 단위로 지정한다. 랙 단위의 하드웨어 추상화를 구현하여 수많은 랙이 연결된 대규모 시설에서도 펌웨어 업데이트와 하드웨어 관리를 통합 제어한다.

넷째, ‘엔비디아 인프라 컨트롤러용 클러스터 API 프로바이더(Cluster API Provider for NVIDIA Infrastructure Controller)’는 운영체제가 설치되지 않은 초기 상태의 베어메탈 서버를 빠르게 프로비저닝한다. 새로운 하드웨어를 실제 서비스 투입 가능한 클러스터로 전환하는 시간을 기존 며칠 단위에서 단 몇 시간 수준으로 대폭 단축한다.

이번 소프트웨어 구성 요소들은 엔비디아의 자체 슈퍼컴퓨팅 서비스인 ‘DGX 클라우드(NVIDIA DGX Cloud)’ 운영 노하우를 바탕으로 설계되었다. 클라우드 서비스 제공업체(CSP)와 데이터센터 솔루션 파트너는 해당 도구를 자사의 멀티테넌트(Multi-tenant) 클라우드 환경에 직접 통합할 수 있다. 관련 소스 코드는 DSX AI 팩토리 깃허브(GitHub) 저장소에 공개되어 개발자 커뮤니티의 자유로운 참여를 지원한다.