[디지털투데이 석대건 기자] 퀄컴 테크날러지(Qualcomm Technologies, Inc.)가 바르셀로나에서 열린 모바일 월드 콩그레스(MWC) 2024에서 '퀄컴 AI 허브'를 공개했다고 27일 밝혔다.

퀄컴 AI 허브는 스냅드래곤 및 퀄컴 플랫폼을 사용하는 모든 제품에 적용 가능한 최적화 AI 모델 라이브러리를 지원한다.

지원하는 AI모델 라이브러리는 위스퍼(Whisper), 컨트롤넷(ControlNet), 스테이블 디퓨전(Stable Diffusion), 바이추안 7B(Baichuan 7B) 등 약 75가지다.

퀄컴은 이 모델들이 폼팩터 및 런타임 환경에서 메모리를 적게 사용하면서도 온디바이스 AI 성능과 높은 전력 효율을 낼 수 있도록 최적화해 제공한다.

각 모델은 NPU, CPU 및 GPU 등 퀄컴 AI 엔진의 모든 코어에서 4배 가량 빠른 추론 속도가 가능하다. AI 모델 라이브러리는 또한 소스 프레임워크에서 선호하는 런타임 환경으로 모델을 자동 변환하며, 퀄컴 AI 엔진 다이렉트 SDK와 직접 연동된다.

해당 모델은 현재 퀄컴 AI 허브, 깃허브(GitHub) 및 허깅 페이스(Hugging Face)에서 이용할 수 있다. 회사 측은 퀄컴 AI 허브에 신규 모델을 지속적으로 추가할 예정이라고 전했다.

두르가 말라디(Durga Malladi), 퀄컴 수석 부사장 겸 기술 기획·엣지 솔루션 부문 본부장은 "앞으로 개발자들은 퀄컴 AI 허브를 통해 첨단 기술의 잠재력을 온전히 활용하고 AI 기반의 매력적인 응용 프로그램을 만들 수 있게 될 것"이라고 말했다.