[디지털투데이 석대건 기자] 최태원 SK그룹 회장이 AI 인프라 투자가 선형 성장이 아닌 기하급수적 증가 국면에 진입했다고 진단했다. 최 회장은 3일 서울에서 열린 SK AI 서밋 키노트에서 "신규 진입 업체들의 투자까지 합치면 AI 인프라 투자는 선형이 아닌 지수 함수적 증가 양상을 보일 것"이라고 말했다. 

AI 데이터센터 투자 규모는 2020년 2300억달러에서 올해 6000억달러로 연평균 24% 증가했지만, 오픈AI의 스타게이트 프로젝트 5000억달러, 메타의 2028년까지 6000억달러 투자 계획 등 빅테크 단일 기업의 투자 규모만으로도 과거 전체 시장 규모를 초과하는 상황이 전개되고 있다.

최 회장은 이러한 수요 폭증을 뒷받침하는 네 가지 구조적 요인을 제시했다. 먼저 인퍼런스(추론) 시대의 본격화 국면을 근거로 들었다. AI가 하나의 질문에 대해 스스로 답을 평가하고 검증하며 재사고하는 과정을 반복하면서 필요한 토큰 수가 기하급수적으로 증가하고 있다. 모델 경량화로 연산량을 줄이는 노력도 병행되지만, 전체적으로 인퍼런스 단계에서 요구되는 컴퓨팅 파워는 트레이닝 수요를 이미 초과했다는 설명이다.

B2B 영역의 AI 도입도 빨라지고 있다. IDC에 따르면 2025년 기업들의 AI 도입 투자 규모는 700억달러에서 3년 후 2000억달러로 증가할 전망이다. 이는 연평균 43% 성장률 수준이다.

최태원 회장은 "Anthropic의 경우 B2B 매출이 전체의 80%를 차지하고 30만 이상의 유료 기업 고객을 확보했다"며 "모든 기업이 AI를 도입하지 않으면 도태될 수 있다는 인식 때문에 비용을 무시하고라도 적극 도입하는 추세"라고 말했다.

에이전트의 등장 역시 AI 인프라 투자를 가속화하는 요인이다. 최태원 회장은 "에이전트들은 24시간 쉬지 않고 서로 소통하며, 디지털 공간을 넘어 집안이나 회사, 공장 등 물리적 공간에서도 항상 켜져 있고 연결된 상태로 존재할 것"이라고 전망했다. 사람이 질문하고 AI가 답하는 리즈닝 모델과 달리, 에이전트 간 자율적 상호작용이 컴퓨팅 파워 수요를 더욱 가속화한다는 분석이다.

마지막으로 소버린(Sovereign) AI의 부상을 거론했다. 미국과 중국의 AI 경쟁을 넘어 전 세계 모든 국가가 자체 AI 구축에 나서면서 정부가 새로운 수요 주체로 등장했다. 최 회장은 "AI 투자의 주체가 기업뿐 아니라 국가로 확대되면서 추가적인 수요 창출로 연결될 것"이라고 내다봤다.

◆최태원 회장 "공급 따라갈 수 없어…어떻게 소화할지 고민"

문제는 공급이 수요 증가 속도를 따라가기 어렵다는 점이다. 최태원 회장은 "AI 컴퓨팅 파워 공급은 수요 성장세를 따라가기 어렵고 상당한 미스매치가 발생할 것"이라며 "리드타임을 주면 해결되는 문제가 아니라 바틀넥이 존재한다"고 지적했다. 

GPU 칩 공급 부족이 계속되는 가운데, 메모리 대역폭(밴드위스)이 새로운 제약 요인으로 부상했다. 프로세서의 계산 능력이 향상돼도 메모리 대역폭이 병목이 되면 그 성능을 활용할 수 없는 구조라는 설명이다.

현재 GPU당 탑재되는 HBM(고대역폭 메모리) 개수가 과거 1개에서 현재 12개 이상으로 증가했다. 최 회장은 "OpenAI가 스타게이트 프로젝트에 월 90만장의 HBM 공급을 요청했는데, 이는 현재 전 세계 전체 HBM 월 생산량의 2배 규모"라며 "OpenAI도 미래 데이터센터 구축과 AI 이니셔티브 확보를 위해 HBM이 바틀넥임을 인정하고 있다"고 설명했다. 이어 "너무 많은 기업으로부터 메모리 칩 공급 요청을 받고 있어 이를 어떻게 소화할지가 고민"이라고 덧붙였다.

이러한 상황에서 최태원 회장은 SK의 미션을 '가장 효율적인 AI 솔루션 구축'으로 제시했다. 효율성을 높여 리소스가 적은 국가도 AI 혜택을 받을 수 있어야 한다는 설명이다. 

최 회장은 "AI가 스케일 경쟁이 아닌 효율 경쟁으로 패러다임 전환이 필요하다"며 "스케일로만 승부하면 너무 많은 비용이 투입되고 비효율이 발생하며, AI 격차와 양극화가 심화될 수 있다"고 강조했다. 

이를 위해 SK는 세 가지 영역에서 솔루션을 준비하고 있다. 먼저 메모리 공급 확대를 추진한다. SK하이닉스는 청주에 HBM 공장을 완공해 내년부터 본격 생산에 들어가고, 2027년 용인 클러스터를 오픈한다. 용인 클러스터는 대형 팹(반도체 공장) 4개가 들어갈 수 있으며, 팹 1개당 청주 팹 6개 규모다. 최 회장은 "용인 클러스터가 완성되면 청주 팹 24개가 동시에 가동되는 것과 같다"며 "상당한 자본 지출이 필요하지만 공급 부족 상황을 최대한 막으려 한다"고 말했다.

기술 측면에서는 초고용량 메모리 칩 개발과 낸드 컨셉트 도입으로 돌파구를 찾는다. 최 회장은 "엔비디아의 젠슨 황조차 이제 개발 속도 이야기를 하지 않는다"며 "충분히 준비가 됐다는 의미"라고 자신감을 나타냈다.

◆"AI 수요 지수함수 성장...파트너십이 해결 방법"

AI 데이터센터 레벨의 솔루션도 준비 중이다. SK는 칩 레벨부터 시스템, 전력, 운영까지 포함한 효율적 인프라 솔루션 제공을 목표로 한다. SK는 지난 8월 가산에 국내 최초로 블랙웰200 기반 AI 컴퓨팅 클러스터를 구축했고, 울산에 1기가와트급 AI 데이터센터 구축을 추진 중이다. AWS와 100메가와트 규모 계약을 체결해 2027년 오픈 예정이며, 오픈AI와도 선학권에서 새로운 형태의 미래 AI 데이터센터를 공동 구축한다.

마지막으로 AI로 AI 문제를 푸는 접근, 즉 AI 팩토리 구상을 내걸었다. 최태원 회장은 "하이닉스의 생산 효율과 속도로는 AI 생태계 수요를 다 따라가기 쉽지 않다"며 메모리 칩 생산과 데이터센터 운영에 AI를 적용 필요성은 언급했다.

현재 엔비디아와 협업해 옴니버스를 활용한 디지털 트윈 솔루션을 도입, SK하이닉스 특화 가상 공장을 만들고 있다. 궁극적으로 메모리 칩 생산 공정을 완전 자율화한 자율 공장 구축이 목표다. 이 제조 AI 솔루션은 다른 산업과 스타트업에도 개방해 제조 AI 생태계 확산에 기여할 계획이다.

최태원 회장은 "지금까지 말한 모든 것이 SK 혼자 할 수 있는 일은 아니다"며 "파트너와 처음부터 공동으로 솔루션을 설계하고 개발해 나가는 것이 SK AI 전략의 핵심"이라고 강조했다. 

이어 "파트너와 경쟁하거나 파트너에 도움이 되는 방향을 파트너십의 근간으로 삼고 있다"며 "빅테크, 스타트업, 각국 정부를 포함한 다양한 파트너와 AI 사업 기회를 만들어 최고 효율의 AI 솔루션을 찾을 것"이라고 말했다.