엔비디아, 메타 AI 슈퍼컴퓨터에 5 엑사플롭스급 AI 성능 제공-아이씨엔매거진

엔비디아, 메타 AI 슈퍼컴퓨터에 5 엑사플롭스급 AI 성능 제공

엔비디아(CEO 젠슨 황)는 메타(Meta)의 AI 슈퍼컴퓨터를 통해 5 엑사플롭스(exaflops)급 AI 성능을 제공할 것이라고 밝혔다.

메타의 AI 슈퍼컴퓨터는 최첨단 엔비디아 시스템, 인피니밴드(InfiniBand) 패브릭 및 소프트웨어를 통해 수천 개의 GPU에서 최적화가 가능하다.

메타 플랫폼스(Meta Platforms)는 지금까지의 연구 시스템 중 가장 강력할 것이라고 믿고 있는 시스템을 위해 엔비디아의 기술을 선택하며 엔비디아에 큰 신뢰를 보였다.

AI 리서치 슈퍼클러스터(RSC)는 이미 AI를 발전시키기 위한 새로운 모델을 훈련시키고 있다. 메타의 RSC가 완전히 구축되면 엔비디아 DGX A100 시스템의 최대 고객 설치가 될 것으로 예상된다.

메타는 RSC가 완전히 구축되면 올해 말 이를 활용해 매개 변수가 1조 개가 넘는 AI 모델을 훈련하는 것을 목표로 하고 있다. 이는 실시간으로 유해한 내용을 파악하는 것과 같은 작업에 대한 자연어 처리와 같은 분야를 발전시킬 수 있다.

메타의 AI 리서치 슈퍼클러스터는 수백 개의 엔비디아 DGX 시스템을 엔비디아 퀀텀 인피니밴드(Quantum InfiniBand) 네트워크에 연결해 AI 연구팀의 작업을 가속화한다.

신형 AI 슈퍼컴퓨터는 현재 760개의 엔비디아 DGX A100 시스템을 컴퓨팅 노드로 사용하고 있다. 엔비디아 퀀텀(Quantum) 200Gb/s 인피니밴드 네트워크에 연결된 총 6,080개의 엔비디아 A100 GPU를 패키징해 1,895 페타플롭스(petaflops)급 TF32 성능을 제공한다.

한편 메타가 연구 인프라 기반으로 엔비디아 기술을 선택한 것은 이번이 두 번째다. 2017년에 이어 올해 말 두 번째로 공급될 예정인 RSC는 메타가 5 엑사플롭스(exaflops)급의 엄청난 양의 혼합 정밀 AI 성능을 제공한다. 여기에는 1만 6천개의 GPU가 가동될 예정이다. 또한 메타는 RSC의 스토리지 시스템을 확장해 초당 16 테라바이트의 속도로 최대 1엑사바이트의 데이터를 제공하는 것을 목표로 하고 있다.