[디지털투데이 박건도 기자] 클라우드가 아니라 기기에서 직접 돌아가는 이른바, 온 디바이스(On-device) AI 또는 엣지(Edge) 생성형 AI와 관련한 업계 움직임이 구체화되는 모양새다.

오픈AI 챗GPT 같은 생성형 AI는 클라우드에 돌아가기 때문에 인터넷 연결이 안되면 사용할 수 없고, 데이터 프라이버시 측면에서 일각에서 우려가 나오고 있다. 기기에 탑재되는 온 디바이스 AI는 이같은 문제를 풀어 줄 수 있는 기술로 주목 받고 있다.

최근에는 온 디바이스 AI를 실전에서 구현한 사례들도 나오고 있고 유력 업체들 행보도 빨라지고 있다. 퀄컴, 메타, 구글 등의 행보가 눈길을 끈다.

글로벌 반도체 기업 퀄컴은 최근 메타가 선보인 혼합현실(MR) 기기 메타 퀘스트3에  AI 칩 '스냅드래곤 XR2 2세대'를 제공했다. 퀄컴 스냅드래곤 XR2 2세대를 도입하면서 메타 퀘스트3 자체 AI 처리 역량이 전작 대비 8배 개선됐다는게 메타 설명이다.

최신 AI 모델 제미니를 선보이고 오픈AI와 정면 승부를 준비 중인 구글도  온디바이스 AI를 차별화 포인트로 주목하고 있다. 

구글 제미니는 제미니 울트라, 제미니 프로, 제미니 나노 3가지 버전으로 제공된다. 이중 제미니 나노가 온디바이스 AI용이다. 제미니 나노는 픽셀과 같은 구글 최신 스마트폰에 통합된다. 개발자들은 제미니 나노를 활용해  인터넷 접속이 안되더라도 작동하거나 데이터 기밀성을 지원하는 앱을 개발할 수 있다.

PC 시장에서도 AI는 관전포인트다. 대만 컴퓨터 제조사 에이수스는 최근 엣지 AI 컴퓨터 '를 표방하는 PE3000G'를 발표했다. 이를 통해 하드웨어 자체적으로 지능형 비디오 분석, 자율 차량 애플리케이션 및 헬스케어 영상 처리 등이 가능하다고 회사측 설명했다.

지브라 테크놀로지스는 클라우드와 연결 없이 자사 핸드헬드 모바일 컴퓨터 및 태블릿에서 생성 인공지능(GenAI) LLM을 구현했다.

회사 측에 따르면 온디바이스 AI는 데이터가 디바이스 내에 저장되므로 추가적인 개인 맞춤형 기능은 물론, 강화된 프라이버시 및 보안을 제공한다.  클라우드에서 생성AI 기반 검색은 비용이 많이 소요될 수 있는 반면, 온디바이스에서 AI는 보다 향상된 성능 및 절감된 비용으로 사용을 지원한다. 

온디바이스AI와 관련한 국내 업체들 움직임도 나오고 있다.

인공지능 반도체 펩리스 회사인 디퍼아이는 의료인공지능 소프트웨어 전문기업 시너지에이아이가 개발한 부정맥 예측진단솔루션 '맥케이(Mac’AI)'를 엣지형 AI 반도체 양산형 모델에 탑재햇다.

이를 통해 기존 GPU 기반 클라우드 시스템 대비 전력 소모도 줄었다고 시너지에이아이 측은 전했다.

 AI 반도체 회사 퓨리오사AI는 인티그리트와 협력해 로봇에 AI 칩을 탑재한다.

 양사는 10월 지능형 홈 로봇 시장 진출을 위해 '에어패스(AirPath) F2' 공동 개발하기로 협력을 맺었다. 온보드 엣지 AI 로보틱스 플랫폼인 에어패스 F2는 AI 칩셋 및 구동 환경이 통합된 솔루션으로 이동형 로봇 또는 고성능 모빌리티 구현을 지원하는데 초점이 맞춰져 있다. 퓨리오사 AI 2세대 신경망처리장치(NPU)가 탑재되며 내년 상반기 출시 예정이다.