GPU 전쟁의 새 주인공, 네오클라우드가 빅테크를 위협하는 세 가지 이유

들어가며

AWS, Azure, GCP가 지배하던 클라우드 시장에 균열이 생기고 있어요. AI 연산이라는 한 가지 영역에만 집중하는 신흥 인프라 기업들, 이른바 '네오클라우드'가 빠르게 시장 점유율을 가져가고 있거든요. 기존 대형 클라우드 서비스가 수백 가지 기능을 한꺼번에 제공하는 종합 백화점이라면, 네오클라우드는 GPU 연산 하나만 극도로 잘 해내는 전문점이에요.

이 차이가 왜 중요한지 살펴보면, AI 모델 학습 과정에서 수천 장의 GPU가 동시에 지연 없이 작동해야 하는데, 기존 CSP의 가상화 계층이 이 과정에서 병목을 일으켜요. 네오클라우드는 이 불필요한 중간 계층을 아예 걷어내고, GPU 자원을 날것 그대로 제공하는 구조를 택했어요.

빅테크가 따라 할 수 없는 구조적 격차

기존 대형 클라우드 업체들이 네오클라우드를 모방하기 어려운 이유는 구조적인 딜레마에 빠져 있기 때문이에요. 수백 개 서비스를 하나의 네트워크 위에 올려놓은 상태에서 AI 전용으로 최적화하려면 기존 체계를 허물어야 하는데, 그렇게 하면 현재 운영 중인 사업 전체가 위험해져요.

네오클라우드가 확보한 경쟁 우위는 크게 세 가지로 나뉘어요. 첫째는 연산 속도예요. 동일한 H100 GPU를 사용하더라도 가상화 오버헤드가 없기 때문에 학습 속도에서 유의미한 차이가 나타나고 있어요. 둘째는 가격 경쟁력이에요. 불필요한 소프트웨어 라이선스와 중간 레이어 비용이 빠지면서 GPU당 단가가 낮아지는 구조를 갖추고 있어요. 셋째는 가용성이에요. GPU 확보 자체가 사업의 핵심이기 때문에 대규모 클러스터를 원하는 시점에 즉시 투입하는 능력이 탁월해요.

글로벌 네오클라우드 주요 기업들

현재 시장에서 두각을 나타내는 기업들을 살펴보면 각자 고유한 전략으로 경쟁하고 있어요.

CoreWeave는 암호화폐 채굴에서 AI 클라우드로 방향을 전환한 뒤 2025년 3월 나스닥에 상장하면서 약 230억 달러의 기업 가치를 인정받았어요. 엔비디아가 직접 투자한 기업이기도 해요. Lambda Labs는 AI 연구자와 스타트업을 주요 고객으로 삼아 시간 단위 GPU 임대를 제공하고 있어요. Together AI는 학습이 아닌 추론, 즉 완성된 모델의 서비스 배포 단계에 특화된 접근을 취하고 있어요. 그리고 Crusoe Energy는 유전 지대에서 버려지는 천연가스로 전력을 생산해 데이터센터를 운영하면서 에너지 비용이라는 구조적 해자를 확보했어요.

투자 관점에서 바라본 세 가지 레이어

네오클라우드 시장은 투자 관점에서 세 개의 레이어로 구분할 수 있어요. 첫 번째 레이어는 GPU를 직접 소유하고 데이터센터를 운영하는 인프라 자체예요. 부동산투자신탁(REIT)과 네오클라우드 운영사의 결합이 주목받고 있어요.

두 번째 레이어는 GPU 임대 위에 MLOps 플랫폼이나 AI 모델 마켓플레이스를 얹은 형태예요. 고객이 한번 플랫폼에 적응하면 이탈이 어려운 락인 효과가 생기기 때문에 단순 인프라 임대보다 높은 가치 평가를 받을 수 있어요.

세 번째 레이어는 데이터 주권 규제를 겨냥한 소버린 클라우드예요. 자국 내에서만 데이터를 처리해야 하는 정부와 금융기관을 공략하는 로컬 네오클라우드가 유럽, 중동, 동남아시아에서 빠르게 정부 계약을 따내고 있어요.

스타트업이 활용할 수 있는 인프라 전략

스타트업 입장에서 가장 중요한 키워드는 '인프라 유목민'이에요. 특정 클라우드에 장기 계약으로 묶이는 순간, 사업이 확장되는 시점에서 협상력을 잃게 돼요. 대신 학습 단계에서는 CoreWeave나 Lambda Labs 같은 네오클라우드로 비용을 절감하고, 서비스 배포 단계에서는 안정성이 검증된 기존 CSP를 활용하는 하이브리드 방식이 효과적이에요.

이렇게 역할을 분리하는 것만으로도 인프라 비용 구조가 크게 달라져요. 월 5,000달러를 아끼면 연간으로는 약 8,400만 원에 달하는 금액이 지분 희석 없이 확보되는 셈이에요.

맺음말

네오클라우드의 부상은 단순히 새로운 클라우드 기업들이 등장한 것이 아니에요. 빅테크가 수십 년간 쌓아온 범용 인프라의 패러다임이 흔들리고 있다는 신호예요. '모든 것을 두루 갖춘 인프라'의 시대에서 '하나를 극한까지 파고드는 인프라'의 시대로 전환이 진행되고 있어요. 지금 시점에서 인프라를 단순한 비용이 아닌 전략적 자산으로 바라볼 수 있는지 여부가 기업의 미래를 가르는 핵심 기준이 될 거예요.