입력 : 2023-07-19 12:46:47
- 2024년부터 스마트폰·PC에서 라마2 기반 AI 지원
퀄컴이 모바일, PC 등에 생성형 인공지능(AI) 모델을 확대 적용하기 위해 메타와 손잡았다.
;)
< LLM 라마2 적용에 따른 온디바이스 내 4가지 이점 /=퀄컴 제공. >
퀄컴 테크날러지(이하 퀄컴)는 메타와 ‘라마2′ 대형 언어 모델(LLM)을 온디바이스에서 구현할 수 있도록 최적화할 예정이라고 19일 밝혔다.
이를 위해 퀄컴은 라마2를 스마트폰, PC, 가상현실(VR)·증강현실(AR) 헤드셋, 차량 등 적용처에서 실행할 수 있게 할 계획이다. 회사는 라마2 활용 시 클라우드 비용 절감 및 신뢰성 향상 등의 효과가 있다고 설명했다.
라마2 기반 온디바이스 AI 구현이 시작되면 다양한 AI 앱 제작도 가능해진다. 지능형 가상 비서, 생산성 애플리케이션, 콘텐츠 제작 도구, 엔터테이먼트 등 사용 사례 구축과 비행기 모드 등 인터넷 연결이 없는 환경에서도 개발할 수 있을 전망이다.
퀄컴은 2024년부터 스냅드래곤 기반 단말기에 라마 2 기반 AI 구현이 가능하도록 지원할 예정이다. 개발자들은 퀄컴 AI 스택을 활용해 온디바이스 AI 애플리케이션을 최적화할 수 있다.
퀄컴 AI 스택은 스냅드래곤에서 AI를 더 효율적으로 처리해 얇고 가벼운 소형 기기에서도 온디바이스 AI 구현을 가능하게 하는 전용 도구 모음이다.
목록
위로