AI 및 머신러닝 엣지 컴퓨팅을 위한 자일링스의 고성능 FPGA 플랫폼

글_ 타즈님 니아즈(Thasneem Niyaz), 아이웨이브 시스템즈(iWaveSystems)의 기술회원이자 전문 기고가

IoT의 등장과 커넥티드 기기의 확산으로 경쟁력 있는 IoT 솔루션 개발의 가장 큰 과제 중 하나로 지능형 엣지 장치를 구현하는 문제가 대두되고 있다. 엣지 컴퓨팅은 온프레미스(On-Premise) 인프라에서 보다 신속하게 실시간 추론을 처리할 수 있는 대안을 제공하기 때문에 IoT 애플리케이션에서 매우 중요하다. 이를 통해 시스템 전반의 안정성과 성능을 크게 향상시킬 수 있다.

엣지 컴퓨팅이 점차 차세대 커넥티드 기기를 위한 토대를 형성함에 따라, 이러한 애플리케이션의 효율을 결정하는 하드웨어 가속기의 중요성 또한 강조되고 있다. 하드웨어 컴포넌트는 핵심 빌딩블록을 구성하기 때문에 엣지 솔루션 개발에 있어 가장 중요하게 고려되어야 한다.

수년 동안 FPGA 기술이 획기적으로 발전하면서 FPGA는 IoT 엣지 플랫폼의 메인스트림으로 자리잡게 되었다. FPGA는 정교한 성능과 가장 짧은 대기시간으로 최고의 처리량을 제공하기 때문에 엣지 애플리케이션에 이상적인 솔루션이다.

아이웨이브(iWave)의 징크(Zynq®) 울트라스케일+(UltraScale+™) MPSoC FPGA SOM(위 사진 참조)은 개발자가 지속적으로 기능을 개선하고, 경쟁력을 강화할 수 있는 유연한 플랫폼으로, 이미지/음성인식 및 객체/포즈 감지 등과 같은 기능을 손쉽게 개발할 수 있도록 다양한 하드웨어 가속 기능을 제공한다. FGPA를 기반으로 인공 신경망을 구현하면, 변화하는 표준 및 최종 사용자의 요구에 따라 애플리케이션을 조정하고, 미래의 설계에도 대응할 수 있는 유연성을 확보할 수 있다. 아이웨이브는 AI 및 머신러닝 애플리케이션을 즉각적으로 평가할 수 있는 포괄적인 징크 울트라스케일+ MPSoC 개발 플랫폼 또한 제공한다(아래 사진 참조).

왜 자일링스인가?

· 자일링스는 CNN(Convolutional Neural Network)을 위한 구성 가능한 DPU(Deep Learning Processor) 엔진을 통해 AI 추론을 가속화한다.

· 이기종 실행 환경을 통해 머신 비전 애플리케이션에서 높은 정확도와 매우 빠른 추론 속도를 제공한다.

· 자일링스 AI 플랫폼은 Caffe, Tensorflow, Darknet, MXNet 프레임워크와 같은 여러 산업 표준 모델을 지원한다.

· 자일링스의 AI 프로그래밍 모델을 사용하면, FPGA 징크 플랫폼에 딥러닝 애플리케이션을 보다 쉽게 개발하고, 구축할 수 있다.

· 다양한 AI 애플리케이션을 위한 확장 가능한 디바이스 제품군을 제공한다.

· 자일링스의 독보적인 모델 최적화 및 모델 압축 툴을 이용하면, 신경망 모델의 복잡도를 5배에서 50배까지 줄이고, AI 추론 성능을 한 단계 더 높일 수 있다.

· 자일링스의 SDK_AI, DNNDK(Deep Neural Network Development Kit) 및 바이티스(Vitis)와 같은 AI 소프트웨어 개발 툴을 이용해 개발 과정을 단축할 수 있다.

· 자일링스 FPGA 플랫폼은 AI 엣지 컴퓨팅 솔루션을 위한 USB 카메라, 직렬 디지털 인터페이스 카메라, 인터넷 프로토콜 카메라 및 이더넷에 대한 간편한 인터페이스 액세스를 제공한다.

자일링스의 바이티스 AI를 이용해 아이웨이브의 징크 울트라스케일+ MPSoC SOM에서 AI 및 머신러닝 추론 구현

위 이미지는 자일링스의 바이티스 AI 플랫폼을 이용해 아이웨이브의 징크 울트라스케일+ MPSoC 개발 키트에서 구현된 AI 및 머신러닝 가속 사례를 보여준다.

징크 울트라스케일+ MPSoC SOM은 ARM® + 자일링스 FPGA 아키텍처 상에 MPSoC와 FPGA 기능을 최적화하여 구현한 것이다. 이기종 ARM 멀티코어 프로세서는 시스템 부팅 및 주변장치 관리, 서버 통신 등과 같은 고성능 비실시간 프로세싱을 통해 엣지 애플리케이션을 보완하는 것은 물론, 바이티스 AI 모델을 이용해 중요한 실시간 작업을 실행하는 FPGA를 오프로드 시킬 수 있다.

광범위한 신경망을 지원하는 자일링스의 바이티스 AI 플랫폼은 AI 및 머신러닝 애플리케이션의 결정 및 추론을 향상시키기 위해 새로운 첨단 알고리즘을 통합함으로써 지속적으로 발전하고 있다. 아이웨이브는 다양한 애플리케이션 요구를 충족시키기 위해 방대한 포트폴리오의 바이티스 AI 모델을 지원한다.

산업용 엣지 애플리케이션 사례

· 스마트 시티: FPGA의 가속 기능 및 신경망을 조합하여 실시간 모니터링 및 추론을 수행하는 지능형 플랫폼

· 직관적인 ADAS: 온보드 AI 및 머신러닝 알고리즘으로 적시에 정확한 추론을 생성할 수 있는 실시간 컴퓨팅 플랫폼

· 산업 자동화: 대량의 데이터 유입을 감지 및 연결, 처리하고, 예측유지보수를 실행하며, 스마트한 직관적 결정을 내릴 수 있는 AI 기반 지능형 장치

· 스마트 헬스케어: 질병의 조기 진단을 위해 실시간 모니터링 및 진단이 가능한 AI 및 머신러닝 가속 장치

결론

엣지 컴퓨팅은 경쟁력 있는 애플리케이션을 통해 혁신적인 IoT 에코시스템을 지속적으로 견인해 나갈 것이다. 아이웨이브의 자일링스/디파이(Deephi) 플랫폼은 AI 및 머신러닝 추론을 위한 고성능 하드웨어 가속 기능을 제공하고, 최적화된 비용과 리드타임으로 혁신을 가속화하고 있다.