AI, ‘서버’의 굴레를 벗다

노타, ‘디지털퓨처쇼 2025’ 참가… AI 최적화 플랫폼 ‘넷츠프레소’ 기반
LLM/VLM 엣지 구현 “GPU 없이 LLM 실행”… 스마트 가전, 로봇, IIoT 등 AI 보편화 시대의 산업 확장성 제시

[아이씨엔 우청 기자] AI 경량화 및 최적화 기술 전문기업 노타(대표 채명수)가 AI ‘보편화’의 새로운 산업적 확장을 이끌 핵심 기술을 선보인다. 노타는 오는 11월 5일부터 7일까지 일산 킨텍스(KINTEX)에서 열리는 ‘디지털퓨처쇼 2025’에 참가한다. 이 자리에서 AI 모델 최적화 플랫폼 ‘넷츠프레소’를 기반으로, 강력한 대규모 AI 모델을 다양한 엣지 디바이스에서 직접 실행하는 기술을 시연할 예정이다.

GPU 없이 LLM 구동, 엣지 AI의 ‘새 장’

지금까지 대규모 언어모델(LLM)이나 비전언어모델(VLM) 같은 고성능 AI는 막대한 연산량을 감당하기 위해 고가의 GPU 서버에 의존했다. 이는 스마트 가전, 로봇, 차량 인포테인먼트, 산업용사물인터넷(IIoT) 제조사 등 현장 디바이스에 AI를 탑재하려는 기업들에게 막대한 비용 부담과 전력 수급 문제라는 거대한 장벽이었다.

노타가 이번에 선보이는 LLM 최적화 서비스는 이 문제를 정면으로 해결한다. 저전력 디바이스 환경에 맞춰 LLM과 VLM을 극도로 최적화, 모델의 핵심 성능은 유지하면서도 추론 속도를 극적으로 높였다.

핵심은 ‘GPU가 필요 없다’는 점이다. 이는 인터넷 연결이 어려운 산업 현장이나 공공시설, 심지어 개인 모바일 기기까지 AI의 활용 범위를 상상 이상으로 넓힐 수 있음을 의미한다.

“내 눈으로 확인”… 체험형 부스로 기술력 입증

노타는 이번 전시에서 관람객이 기술을 직접 경험할 수 있는 체험형 부스를 마련했다. 관람객은 현장의 다양한 엣지 디바이스에 직접 문서를 업로드하고 질문을 던질 수 있다.

서버 연결 없이, 기기 자체에 탑재된 ‘넷츠프레소’ 최적화 LLM 모델이 내용을 즉각 이해하고 답변하는 과정을 눈으로 확인할 수 있다. 또한 VLM이 엣지 디바이스에서 구현되는 경험도 함께 제공하며, 부스 방문객을 대상으로 무료 컨설팅 프로모션도 진행한다.

노타 관계자는 “이번 전시는 AI 최적화 기술이 기존 기기에서 얼마나 효율적으로 구현되는지를 관람객이 직접 경험할 수 있도록 프로그램을 구성했다”며, “AI 보편화를 이끌 기술을 고객이 쉽게 이해하고 자사 제품에 적용해 보길 바란다”고 밝혔다.

노타의 최적화 기술은 이미 다양한 산업 현장에 솔루션으로 제공되고 있으며, 정부 주도의 ‘AI 국가대표’ 프로젝트 정예팀으로도 선정되어 그 경쟁력을 인정받았다. 수요예측과 일반청약 흥행에 성공한 노타는 연내 코스닥 상장을 목표로 하고 있다.