네오 클라우드 기업 전망 분석: GPU 클러스터 운영은 F1 레이싱카를 모는 것과 같다

올해 상반기 AI 인프라 관련 기업들의 주가는 강한 상승세를 보였다. 특히 네오클라우드가 두드러져서 Nebius는 200% 이상, CoreWeave도 39% 올랐다. 다만 그 상승에도 CoreWeave는 상장 직후였던 작년 6월의 고점(183.5달러) 대비로는 여전히 절반에도 못 미치는 수준이었는데, 7월 들어서는 그마저도 한 달 새 Nebius가 43%, CoreWeave가 36%가량 빠지며 분위기가 완전히 꺾였다. 여기에 순환 금융 이슈까지 겹치면서 네오클라우드는 버블의 상징처럼 언급되고 있는데, 오히려 논란이 뜨거운 지금이 이 섹터의 펀더멘털을 한번 들여다볼 시점이라고 생각되어 공부한 내용을 적어본다.

 

빠른 상승을 보이다 최근 급락한 네비우스 (NBIS) 주가

 

네오클라우드는 AI 학습과 추론에 특화된 GPU 클라우드 사업자를 말한다. 생성형 AI로 GPU 수요가 폭증했는데, 기존 하이퍼스케일러들은 범용 인프라 위에 GPU를 얹은 구조라 비용도 비싸고 운영 효율성도 떨어진다. 이에 따라 GPU 연산에만 집중해 더 빠른 프로비저닝과 낮은 가격을 제공하는 전문 사업자들이 등장했고, 이들을 기존 클라우드 업체와 비교해 네오클라우드라고 부른다. 

 

여기서 GPU 데이터센터가 일반 데이터센터와 무엇이 다른지 짚고 넘어갈 필요가 있다. 일반 데이터센터는 수많은 서버가 각자 독립적으로 일을 하는 구조다. 서버 한 대가 웹페이지 하나를 띄우고, 다른 한 대가 데이터베이스 쿼리를 처리하는 식이라, 서버끼리 대화할 일이 상대적으로 적다. 반면 AI 학습은 수천~수만 장의 GPU가 사실상 하나의 컴퓨터처럼 동작해야 하는 작업이다. 모델 하나가 너무 커서 GPU 한 장에 담기지 않으니 모델과 데이터를 잘게 쪼개서 나눠 들고 있는 것인데, 문제는 매 학습 스텝마다 각 GPU가 계산한 결과를 다른 모든 GPU와 주고받아 동기화해야 한다는 점이다. 이 통신이 끝나야 다음 스텝으로 넘어갈 수 있기 때문에, 만 장의 GPU 중 한 장이라도 느리면 나머지 9,999장이 그 한 장을 기다리며 놀게 된다. NVLink나 InfiniBand 같은 초고속 네트워킹이 필수적인 이유가 여기에 있고, 네오클라우드들이 GPU 사양만큼이나 네트워크 토폴로지 설계에 공을 들이는 이유이기도 하다. (GPU를 몇 장 갖고 있느냐보다 그 GPU들이 얼마나 잘 연결되어 있느냐가 클러스터의 실력이라는 얘기다.)

 

그런데 냉각 같은 물리적 난제를 해결하고 하드웨어를 연결하는 것은 사실 시작에 불과하다. 진짜 어려운 것은 그 위에서 GPU를 놀리지 않고 굴리는 일이다. GPU가 실제 연산에 쓰인 비율을 MFU(Model FLOPs Utilization)라고 하는데, 같은 하드웨어를 갖고도 워크로드를 어떻게 쪼개고, 어떤 순서로 스케줄링하고, 통신과 연산을 얼마나 겹쳐 돌리느냐에 따라 이 숫자가 달라다. 여기에 클러스터마다 특성도 다르다. 대규모 분산 학습에 최적화된 클러스터가 있는가 하면 추론에 적합한 클러스터가 따로 있고, 고객 워크로드도 파인튜닝, 사전학습, 실시간 추론 등 요구 조건이 제각각이라, 어떤 일을 어떤 GPU에 얹을지 매칭하는 것 자체가 정교한 소프트웨어 역량을 요구한다. 시간당 요금을 받는 사업 특성상 가동률이 곧 수익성인데, 이 매칭이 어긋나면 비싼 GPU가 그대로 유휴 자산이 되어버린다. 결국 GPU 클라우드는 하드웨어 임대업이 아니라, 희소한 연산 자원을 최대한 쥐어짜는 운영 소프트웨어 사업에 가깝다.

 

코어위브가 항상 자랑하는 타 회사 대비 높은 MFU (출처: 코어위브 IR 자료)

네오클라우드가 AI 인프라 상승의 수혜를 볼 수밖에 없다고 생각하는 이유를 세 가지로 정리할 수 있었다.

 

첫째는 수요와 공급의 비대칭이다. 학습이든 추론이든 수요는 폭발하고 있는데, 전력, 변압기, 냉각 부품 등 곳곳의 병목 때문에 이 공급망을 최상위 레벨에서 완성할 수 있는 기업 자체가 희소하다. 수요가 아무리 커져도 공급이 따라오지 못하는 구조에서는, 이미 공급망을 완성해둔 소수의 사업자에게 가치가 집중될 수밖에 없다.

 

둘째는, 사실 내가 가장 강조하고 싶은 부분인데, 운영의 난이도다. 유명 투자자인 개빈 베이커는 최근 인터뷰에서 GPU 클러스터를 운영하는 것을 F1 레이싱카를 모는 것에 비유했다. 레이싱카를 산다고 아무나 서킷에서 기록을 낼 수 없듯이, GPU도 보유하는 것과 운영하는 것이 완전히 다른 문제라는 것이다. 실제로 여러 기사에 따르면 신형 GPU가 출시된 후 이전 세대 수준의 성능을 실제로 뽑아내기까지 12~18개월의 갭이 존재하고, GB200 NVL72급 클러스터를 프론티어 수준으로 운영하는 것은 깊은 시스템 역량을 갖춘 소수만 가능하다고 한다. xAI의 콜로서스 클러스터가 MFU 11%에 그쳤다는 보도도 있었는데, 수십조를 들여 산 레이싱카가 트랙의 1할 속도로 달리고 있는 셈이니 꽤 충격적인 숫자다. 결국 하드웨어는 돈으로 살 수 있어도 운영 노하우는 시간으로만 쌓이는 것이고, 이것이 네오클라우드의 진짜 해자가 아닐까 싶다.

 

GPU 클러스터 운영을 F1 드라이빙에 비유한 개빈 베이커 영상. 관련 언급은 18분 50초경부터 나온다.

셋째는 엔비디아와의 협력 관계다. CoreWeave와 Nebius는 엔비디아와의 파트너십 덕분에 Blackwell Ultra, 그리고 이제는 Rubin 같은 차세대 플랫폼을 가장 먼저 구축하고 배포할 수 있는 사업자에 속한다. GPU가 여전히 희소 자원인 시장에서 신형 칩을 남보다 먼저, 그리고 대량으로 받을 수 있다는 것 자체가 강력한 경쟁 우위다. (엔비디아 입장에서도 하이퍼스케일러의 자체 칩 개발을 견제할 우군이 필요하니 이해관계가 맞아떨어지는 구조로 보인다.)

 

다만 리스크도 있다. 주요 네오클라우드 중 GAAP 기준 흑자인 곳은 아직 없고, CoreWeave와 Nebius 모두 GPU 감가상각이 매출의 절반가량을 잠식하고 있다. 여기에 GPU를 담보로 한 수백억 달러 규모의 대출 만기가 2026~2028년 좁은 구간에 몰려 있다는 리파이낸싱 우려도 있다. (순환 금융 논란도 결국 이 부채 기반 성장 구조에서 나오는 얘기다.) GPU의 경제적 수명이 감가상각 기간보다 짧다면 지금의 성장 공식 자체가 흔들릴 수 있어, 이 부분은 계속 지켜봐야 할 것 같다.

 

주요 플레이어들의 최근 소식도 간단히 정리해본다. 해외 상장사 중에서는 CoreWeave가 대장 격인데, 2026년 1분기 매출이 전년 대비 112% 성장한 약 21억 달러였고 수주잔고는 994억 달러에 달한다. 2026년 4월부터는 Anthropic도 다년 컴퓨트 계약을 맺은 고객이 되었다. 비상장 쪽에서는 추론 특화 사업자들의 성장이 인상적이다. Fireworks AI는 2026년 7월 175억 달러 밸류에이션에 15억 달러 규모 시리즈 D를 유치했는데, 연환산 매출 10억 달러를 돌파했고 Together AI도 같은 달 83억 달러 밸류에이션에 8억 달러 시리즈 C를 마쳤고, 연간 부킹이 11.5억 달러를 넘어섰다.

 

국내도 움직임이 빨라지고 있다. 네이버는 엔비디아의 투자를 유치하며 GPU 임대를 넘어 자체 AI 모델과 소프트웨어를 결합한 'AI 팩토리'를 구축하겠다고 밝혔고, 브룩필드와는 기가와트급 AI 팩토리 운영에 필요한 데이터센터, 전력, 냉각 설비 공급망을 공동으로 마련하기로 했다. 의외였던 곳은 GS다. 강원 동해에 2.4GW급 AI 데이터센터 캠퍼스를 짓겠다고 발표했는데, 직접 투자비만 약 30조 원, GPU와 메모리까지 포함하면 120조 원 규모로 추산된다. 전력은 GS EPS와 GS E&R, 시공은 GS건설, 냉각은 GS칼텍스가 맡는 수직계열화 구조인데, 아무래도 병목이 전력과 건설로 옮겨가고 있다 보니 에너지 그룹이 이 시장의 유력한 플레이어가 될 수 있다는 점이 흥미로웠다. 스타트업 중에서는 베슬AI가 눈에 띄는데, 한국, 미국, 핀란드 등 여러 데이터센터의 GPU를 연결해 수요와 공급을 매칭하는 미들레이어 구조로 운영하며, 국내외에서 빠르게 매출이 성장하고 있다고 한다.

 

정리하자면, 순환 금융이나 감가상각 같은 재무적 논란과 별개로, 수요-공급의 비대칭, 운영 난이도, 그리고 엔비디아와의 협력이라는 세 개의 구조적 해자 덕분에 네오클라우드는 AI 인프라 상승의 수혜를 볼 수밖에 없는 섹터라고 생각한다. 다만 그 수혜가 모든 플레이어에게 돌아가지는 않을 것이고, 결국 소수의 승자에게 그 혜택이 돌아갈 것으로 보인다. 국내에서도 이 밸류체인에서 성공하는 기업들이 많이 나와줬으면 하고, 나도 관련 기업들을 계속 들여다봐야겠다.

*참고: 이 글은 투자 권유 글이 아닙니다.