입력 : 2019-08-14 14:35:15
- 최첨단 AI 언어모델 BERT 53분에 훈련...2밀리세컨드에 인퍼런스 완료
엔비디아가 실시간 대화형 인공지능(AI)을 통해 기업이 고객과 보다 자연스럽게 소통할 수 있는 언어이해 모델을 14일 발표했다.
;)
엔비디아의 AI 플랫폼은 최첨단 AI 언어모델 중 하나인 버트(BERT)를 한 시간 내에 훈련시키고, 2밀리세컨드(ms) 만에 AI 인퍼런스를 완료했다. 이 성능을 통해 개발자는 전세계 수억 명의 소비자가 사용할 수 있는 대규모 애플리케이션용 최신 언어이해 기능을 사용할 수 있다.
기존 대화형 AI 서비스는방대한 AI 모델을 배치하는 것이 불가능해 챗봇, 지능형 개인 비서, 검색 엔진 서비스가 인간 수준의 이해력 갖춘 채로 작동되기는 매우 어려웠다. 엔비디아는 AI 플랫폼에 핵심 최적화 기능을 추가해 이러한 문제를 해결했다.
AI 훈련과 인퍼런스를 기록적인 속도로 수행하고, 현재까지 가장 방대한 언어 모델을 구축했다.
엔비디아 텐서RT(TensorRT)를 사용하는 엔비디아 T4 GPU를 통해 엔비디아는 BERT-베이스 스쿼드(BERT-Base SQuAD) 데이터세트를 단 2.2ms만에 인퍼런스했다. 또한 점점 더 방대한 모델을 요구하는 개발자의 요청에 부응해 세계 최대 언어모델을 구축하고 훈련시켰다. 이러한 엔비디아의 맟춤형 모델은 83억 개의 매개변수를 제공한다. 이는 BERT-라지 크기의 24배다.
마이크로소프트와 AI 관련 스타트업들은 엔비디아 플랫폼을 활용해 매우 직관적이고 즉각적인 반응형 언어 기반 서비스를 개발하고 있다. 자연어 이해에 기반한 AI 서비스는 향후 몇 년 동안 기하급수적으로 성장할 것으로 예상된다.
주니퍼리서치는 디지털 음성 비서만의 사용건수가 향후 4년 내에 25억에서 80억으로 증가할 것으로 예측했다. 또한, 가트너는 2021년까지 모든 고객 서비스 상호작용의 15%가 AI로 완전히 처리되고, 2017년도 대비 400% 증가할 것으로 전망했다.
목록
위로