클라우드, HPC, AI/ML 학습 및 추론 위한 네오버스 CSS V3 기반 AI CPU 칩렛 플랫폼에서 협업
Arm은 Arm Total Design 에코시스템의 출시 1주년을 맞아 최근 새로운 업데이트를 공개했다. Arm Total Design은 설계부터 파운드리 제조에 이르는 역량을 한 데 모아 약 30개 기업의 참여로 빠르게 성장했으며, 이 에코시스템에 Alcor Micro, Egis, PUF Security 및 세미파이브가 새롭게 합류했다.
AI 컴퓨팅 수요가 증가함에 따라 개발자는 지구상에서 가장 널리 사용되는 컴퓨팅 플랫폼에서 성능과 전력이 최적화되고 접근성이 뛰어난 방식으로 혁신을 쉽게 실행하는 것이 중요하다.
Arm 인프라 사업부의 시장 진입 전략(Go-To-Market) 부사장인 에디 라미레즈(Eddie Ramirez)는 “Arm 컴퓨팅 서브 시스템(CSS)과 Arm Total Design은 하드웨어 및 소프트웨어 발전에 대한 더 빠른 액세스를 지원해 에코시스템 AI 개발을 가속화한다.”면서, “Arm은 엔지니어링의 창의성과 개발의 새로운 장을 맞이하고 있으며, 당사는 AI와 실리콘 혁신이 필요한 곳에 필요한 도구와 기술을 제공하고 있다”고 말했다.
AI 데이터센터의 지속 가능한 구동을 지원하는 새로운 Arm 기반 솔루션
Arm Total Design은 글로벌 협업으로 촉진해 생성형 AI(Gen AI) 컴퓨팅을 위한 실제 CSS 기반 솔루션으로 이어졌다. 예시로, Arm과 삼성전자 파운드리, 에이디테크놀로지, 리벨리온이 협력해 AI CPU 칩렛 플랫폼을 개발하고 있다.
클라우드, HPC, AI/ML 학습 및 추론 워크로드를 대상으로 하는 이 플랫폼은 에이디테크놀로지의 네오버스 CSS V3 기반 컴퓨팅을 칩렛으로 구축하고 리벨리온의 REBEL AI 가속기를 해당 컴퓨팅 칩렛과 결합하여 삼성 파운드리의 2nm 게이트올어라운드(GAA) 첨단 공정 기술로 구현된다. 생성형 AI 워크로드(Llama3.1 405B 파라미터 LLMs)에 대해 약 2~3배의 효율성 이점을 제공하는 탁월한 성능과 최적의 전력 효율을 보장한다.
송태중 삼성전자 파운드리 사업부 비즈니스 개발팀 상무는 “삼성 파운드리의 2nm GAA 공정은 가장 엄격한 HPC 및 AI 설계 요구 사항을 충족하도록 정밀하게 설계됐다. Arm CSS의 유연성과 Arm Total Design 에코시스템의 강점을 활용해 하이퍼스케일러 및 클라우드 서비스 제공업체를 위한 최첨단 기술 및 설계 솔루션의 채택을 더욱 가속화할 AI CPU 칩렛 플랫폼을 제공하게 돼 기쁘다”고 말했다.
이는 AI 가속기 설계자가 쉽게 통합할 수 있도록 Arm에 최적화된 EDA 툴, 글로벌 설계 전문성 및 파운드리 파트너십을 통합해 AI 실리콘 개발을 가속화하는 데 있어 Arm Total Design과 표준 기반 컴퓨팅 서브시스템의 고유한 가치를 보여주는 예시이다. AI 워크로드가 빠르게 진화함에 따라 전체 AI 스택을 지원하기 위해서는 긴밀하게 결합된 CPU 컴퓨팅이 필수적이다.
데이터 전처리, 오케스트레이션, 검색 증강 생성(RAG)과 같은 데이터베이스 증강 기술 등은 모두 Arm 네오버스 CPU의 성능 효율성의 이점을 누릴 수 있다. Arm은 이러한 요구 사항에 대한 지원을 CSS에 포함시켰으며, Arm Total Design을 통해 에코시스템은 이미 이러한 혁신의 혜택을 누리고 있다.
특수 목적 AI 인프라를 위한 새로운 표준
CSS와 Arm Total Design은 지속 가능한 AI 데이터센터를 위한 하드웨어 기반을 구축하는 데 기여하고 있다. Arm Total Design은 이미 네오버스 N 시리즈 또는 V 시리즈 CSS로 구동되는 Arm 기반 테스트 칩 및 칩렛 제품 개발에 박차를 가하고 있다. 클라우드부터 엣지에 이르는 다양한 칩렛 솔루션과 그 개발 속도는 최신 CSS에 대한 폭넓고 우선적인 액세스를 가능케 함으로써 진입 장벽을 낮춘 직접적인 결과다.
금일 Alcor Micro는 AI/ML 학습 및 추론 사용 사례를 겨냥한 CSS 기반 칩렛을 구축한다고 했다. 또한, Alphawave는 AI/ML, HPC, 데이터센터 및 5G/6G 애플리케이션을 위한 CSS 기반의 자체 고급 컴퓨팅 칩렛을 발표했다. 이러한 Arm 기반 칩렛은 Arm 파트너십만이 제공할 수 있는 다양성, 유연성 및 글로벌 공급망의 예시다.
또한, Alphawave, Cadence, proteanTecs를 비롯한 Arm Total Design 파트너는 Arm 사양 및 표준 준수를 보장하기 위해 첨단 노드에서 CSS를 사용해 써드파티 IP 제품을 검증하고 있다. 즉, 파트너는 최첨단 노드에서 CSS 기반 맞춤형 실리콘을 구축하고 원활한 소프트웨어 경험을 제공받을 수 있다.
