2025년 7월 2일, 수요일

엔비디아, KT 스마트 스피커와 고객 콜센터 훈련에 AI 지원

KT, 엔비디아 DGX 슈퍼POD 플랫폼 및 네모 메가트론 프레임워크로 훈련된 초거대 언어 모델 MI:DEUM 구축

KT 고객 콜센터

엔비디아(CEO 젠슨 황)가 KT의 스마트 스피커와 고객 콜센터 훈련에 엔비디아 AI를 지원했다고 밝혔다

800만 명의 사용자를 가진 국내 인기 AI 음성비서인 KT 기가지니는 한발 더 나아가 아마존 알렉사(Alexa)와의 호환성 통합을 거쳐 사용자와 영어로 대화할 수 있게 됐다.

KT의 AI 기반 스피커는 TV를 제어하고, 실시간 교통 정보를 제공하고 기타 집안에서의 다양한 업무를 수행한다. 대형의 텍스트 데이터 세트를 기반으로 인간 언어를 인식, 이해, 예측 및 생성할 수 있는 머신러닝 알고리즘인 초거대언어 모델 덕분에 매우 복잡한 한국어 대화 기술을 숙달중이다.

KT의 모델은 엔비디아 DGX 슈퍼(Super)POD 데이터센터 인프라 플랫폼과 네모 메가트론(NeMo Megatron) 프레임워크 위에서 KT 독자 기술인 초거대 언어모델 MI:DEUM을 개발했다.

KT의 Large AI 개발팀 류휘정 팀장은 “트랜스포머 기반 모델을 통해 기가지니 스마트 스피커와 고객 서비스 플랫폼 AI 컨택센터(AICC)의 품질이 크게 향상됐다”라고 말했다.

KT에 따르면 대규모 딥 러닝 모델을 여러 장치에 분할하는 분산 학습 방법인 3D 병렬 처리 기술을 통해 모델을 보다 효과적으로 훈련했다. 네모 메가트론을 통해 팀은 가장 높은 처리량으로 작업을 쉽게 수행할 수 있었다.

KT는 네모 메가트론의 하이퍼파라미터 최적화 도구를 사용해 다른 프레임워크보다 모델을 두배 더 빠르게 훈련했다. 이러한 도구를 통해 사용자는 훈련 및 추론을 위한 최상의 구성을 자동으로 찾아 개발 및 배포 과정을 쉽고 빠르게 할 수 있다.

이러한 과정을 통해 KT는 오는 11월 개발자를 대상으로 20여종의 자연어 이해와 자연어 생성 API를 출시한다. 애플리케이션 프로그래밍 인터페이스는 문서 요약 및 분류, 감정 인식 및 잠재적으로 부적절한 내용의 필터링을 포함한 작업에 사용할 수 있다.



.
이 기사는 아이씨엔매거진에서 발행되었습니다. 더 많은 기사를 아이씨엔매거진(링크)에서 확인하실 수 있습니다.        
IO-Link Wireless
우청 기자
우청 기자http://icnweb.co.kr
아이씨엔 매거진 테크니컬 에디터입니다. 산업용사물인터넷과 디지털전환을 위한 애널리틱스를 모아서 뉴스와 기술기사로 제공합니다.
ACHEMA 2027
  • 파스텍 배너 900
  • hilscher
ASI

Join our Newsletter

Get the latest newsletters on industry innovations.

파스텍 배너 300
오토모션

Related articles

슈나이더 일렉트릭-엔비디아, AI 팩토리 인프라 개발 협력… 차세대 데이터센터 혁신 가속

슈나이더 일렉트릭이 엔비디아와의 협력을 통해 대규모 AI 팩토리 구축을 위한 인프라 개발을 가속화한다

슈나이더 일렉트릭, AI 시대 맞춤형 ‘이지 모듈형 데이터센터 올인원’ 솔루션 공개

슈나이더 일렉트릭이 AI 시대 데이터센터 혁신을 주도하는 이지 모듈형 데이터센터 올인원 솔루션을 공개했다

ABB-어플라이드 디지털, AI 전력 수요 충족 위한 고압 UPS 협력

신규 건설중인 어플라이드 디지털의 노스다코타 데이터센터는 ABB의 HiPerGuard UPS를 활용한 고압 전력 체계로 데이터 센터의 효율성과 신뢰성 향상을 제공한다

기자의 추가 기사

IIoT

오토모션
오토모션
오토모션

추천 기사

mobility