[디지털투데이 황치규 기자]엔비디아가 H100 등 서버용 GPU 이어 집이나 사무실에 있는 PC 및 노트북에서 돌아갈 수 있는 로컬 AI용 GPU 시장 공략에도 속도를 내고 있다.

엔비디아는 9일(현지시간) 599달러에서 999달러 사이에 있는  RTX4060 슈퍼, RTX 4070 Ti 슈퍼, RTX 4800 슈퍼를 발표했다.

회사 측에 따르면 이들 GPU카드는 생성형 AI 애플리케이션들을 돌릴 수 있도록 디자인된 텐서 코어(tensor cores)들을 별도로 제공한다.

엔비디아는 델, 에이서, 레노버 등의 노트북에 이번에 선보이 그래픽카드를 제공한다. 생성형 AI에 대한 관심이 폭발하면서 엔비디아 엔터프라이즈 GPU들에 대한 공급은 수요를 따라가지 못하는 상황이다. 엔비디아 엔터프라이즈 GPU는 통상 8개 GPU가 한 시스템으로 작동한다. 

PC용 GPU의 경우 그동안 비디오 게임 구동에 초점이 맞춰졌지만 엔비디아는 이번에 선보인 그래픽카드들은 생성형 AI 지원 역량도 강화됐다고 설명했다. 클라우드로 정보를 보낼 필요 없이 PC에서 AI를 돌릴 수 있다는 얘기다.

회사 측에 따르면 RTX 4080 슈퍼는 이전 모델 대비 AI 비디오를 150% 빠르게 생성할 수 있도록 지원한다. 최근 발표한 다른 소프트웨어 개선 사항들은 거대 언어 모델(LLM) 처리를 5배 빠르게 해줄 것이라고 엔비디아는 강조했다.

엔비디아는 향후 1년 간 자사 PC용 GPU 이점을 활용할 수 있는 새로운 AI 애플리케이션들이 등장할 것으로 기대하고 있다. 마이크로소프트의 경우 올해말 AI 칩을 보다 잘 활용할 수 있는 차세대 윈도OS 윈도12를 공개할 것으로 보인다.

엔비디이가 PC용 GPU에서도 생성형 AI 지원을 본격화하면서 로컬 AI 시장을 둘러싼 인텔, AMD, 퀄컴 등과의 로컬 AI 경쟁도 고조될 전망이다.

인텔, AMD, 퀄컴도 앞서 머신러닝용 특화 부품을 탑재해 AI PC를 지원할 수 있는 신형 칩들을 공개했다.

오픈AI 챗GPT로 대표되는 클라우드 기반 생성형 AI 서비스들은 엄청난 컴퓨팅 파워를 요구하다 보니 그만큼 비용도 많이 들어가는 구조다. 이런 상황에서 내부에 AI 칩을 탑재한 기기들에서 LLM을 돌리는 있는, 이른바 온디바이스 AI를 향한 관련 업계 움직임도 활발하다.

마이크로소프트, 엔비디아, 인텔, AMD, 퀄컴 등은 이를, AI PC 또는 엣지 컴퓨트(edge compute)로 불리는 해법을 프로모션하고 있다고 CNBC는 전했다.

CNBC에 따르면 엔비디아는 어려운  문제들에는 클라우드 모델을, 빠르게 처리해야 하는 작업에는 로컬 AI 모델을 사용할 것을 제안하고 있다.