[디지털투데이 AI리포터] 인공지능(AI) 혁신을 선도하는 엔비디아가 네트워크 인프라를 강화하며 데이터센터 설계 자체를 변화시키고 있다고 18일(현지시간) 실리콘앵글이 전했다.

길라드 샤이너(Gilad Shainer) 엔비디아 마케팅 부사장은 "네트워크가 AI의 운영체제 역할을 한다"며 "동기화된 데이터 전송이 핵심이며, 이를 통해 수십만 개의 GPU가 하나의 컴퓨팅 유닛처럼 작동할 수 있다"고 설명했다. AI 워크로드가 분산되면서 데이터센터 전체가 하나의 엔진처럼 움직여야 하는데, 이를 가능하게 하는 것이 바로 네트워크라는 것이다.

엔비디아는 하드웨어뿐 아니라 소프트웨어, 라이브러리, 텔레메트리까지 네트워크와 함께 설계하는 코-디자인(co-design) 접근법을 강조하고 있다. 샤이너 부사장은 "단순히 하드웨어 성능이 아니라, 토큰 처리 속도와 런타임 효율성을 높이는 것이 중요하다"며 "네트워크와 하드웨어가 함께 설계될 때 AI 슈퍼컴퓨터의 성능이 극대화된다"고 말했다.

밀집형 설계도 중요한 요소다. 과거 데이터센터는 밀도를 줄이는 방향으로 설계됐지만, 엔비디아는 한 랙에 더 많은 GPU를 배치해 광학 링크 의존도를 줄이고 구리 기반 연결을 활용하는 방식을 택했다. 이를 통해 전력 소비를 줄이고 데이터 전송 효율성을 높이고 있다. 샤이너 부사장은 "밀도를 높이면 구리를 활용한 연결이 가능해지고, 이는 스케일업 워크로드에서 큰 이점을 제공한다"고 덧붙였다.