Nvidia v. Google, Scaling Laws, and the Economics of AI - Colossus
<요약>
1. AI 모델과 스케일링 법칙의 현주소
- 유료 모델 사용의 중요성: 무료 버전(10살 아이 수준)으로 AI를 판단하지 말고, 유료 최상위 티어(30대 성인 수준)를 써봐야 진짜 성능을 알 수 있음.
- 스케일링 법칙(Scaling Laws)의 유효성:
- *제미나이 3(Gemini 3)**는 '사전 학습(Pre-training)' 스케일링 법칙이 여전히 유효함을 증명함.
- 여기에 **'사후 학습(Post-training)'**의 두 가지 새로운 법칙인 **'검증된 보상(RL)'**과 **'테스트 타임 연산(Test-time compute)'**이 더해져 폭발적인 성능 향상을 이끎.
- 추론(Reasoning) 모델의 역할: 엔비디아의 차세대 칩(블랙웰) 출시가 지연되는 하드웨어 공백기를 '추론 모델'의 소프트웨어적 발전이 메워주었음.
2. 반도체 전쟁: 엔비디아 vs 구글 vs 중국
- 블랙웰(Blackwell)의 지연과 파급력:
- 블랙웰은 단순한 칩 업그레이드가 아니라 데이터센터 전체(전력, 냉각, 구조)를 바꾸는 거대한 전환임.
- *xAI(일론 머스크)**가 가장 빠르게 데이터센터를 짓고 있어, 첫 번째 블랙웰 기반 모델은 xAI에서 나올 가능성이 높음.
- 구글의 칩 경제학 (TPU):
- 구글은 자체 칩(TPU) 덕분에 토큰 생산의 **'최저 비용 생산자'**로서 경쟁자들의 '경제적 산소'를 고갈시키는 전략을 구사 중.
- 하지만 블랙웰(특히 GB300)이 보급되면 엔비디아 진영의 효율이 급상승하여 구글의 비용 우위가 사라질 수 있음.
- 구글이 브로드컴(Broadcom)에 지불하는 마진이 너무 커서, 향후 미디어텍 등으로 공급망을 다변화하거나 내부화할 가능성이 있음.
- 미-중 기술 격차:
- 중국이 엔비디아 칩을 배제하려는 움직임은 실수.
- 블랙웰이 보급되면 미국 프론티어 랩(OpenAI, xAI, Google, Anthropic)과 중국 오픈소스 모델 간의 성능 격차가 되돌릴 수 없을 정도로 벌어질 것.
3. 미래 인프라: 우주 데이터 센터와 에너지
- 우주 데이터 센터 (Data Centers in Space):
- 개빈 베이커가 꼽은 향후 3~4년 내 가장 중요한 변화.
- 장점: 24시간 태양광(배터리 불필요), 공짜 냉각(우주 방열), 진공 레이저 통신(광섬유보다 빠름).
- 실현: 스페이스X의 스타십(Starship)이 이를 가능케 하며, 테슬라(로봇)-xAI(지능)-스페이스X(인프라)의 융합이 일어남.
- 전력 문제: 전력 부족이 오히려 혁신을 가속화함. AI가 필요로 하는 것(원자력 규제 완화, 가스 발전 등)은 결국 사회가 제공하게 되어 있음.
4. 투자 관점: SaaS의 위기와 벤처의 기회
- SaaS 기업들의 실수:
- 기존 소프트웨어(SaaS) 기업들은 **80~90%의 높은 총마진(Gross Margin)**을 지키려다 AI 도입을 주저하고 있음.
- AI 에이전트는 마진이 낮더라도(약 40%) 인건비를 대체하므로, 마진율을 희생해서라도 도입하지 않으면 도태될 것(불타는 플랫폼).
- ROI의 실현:
- AI 투자의 ROI는 이미 증명되고 있음 (예: C.H. Robinson의 물류 생산성 혁신 및 주가 급등).
- AI는 '지능' 경쟁에서 '유용성(Usefulness)' 경쟁으로 넘어가고 있으며, 검증 가능한 업무(회계, 영업, CS)부터 자동화될 것.
- 반도체 벤처의 르네상스: 엔비디아의 1년 출시 주기를 맞추기 위해 주변 부품(케이블, 트랜시버 등) 생태계가 중요해지며 반도체 스타트업 씬이 다시 활발해짐.