[투자정보] AI 인프라의 승부처가 ‘칩 한 개의 스펙’에서 ‘GPU를 얼마나 잘 연결하느냐’로 이동하는 국면임

📋 핵심 내용 요약

1. 이 보고서의 핵심은 엔비디아가 차세대 AI 인프라에서 GPU 한 개당 메모리를 더 키우는 대신 GPU 수를 크게 늘리고 초고속 네트워크로 묶는 전략을 택하는 반면, AMD는 GPU 자체에 더 많은 HBM을 넣어 개별 랙의 연산능력을 높이는 정반대 전략을 택하고 있다는 점임. [팩트, p2~6]

2. 엔비디아의 Rubin Ultra는 보도 내용이 맞다면 GPU당 HBM4 용량이 Rubin의 288GB보다 낮은 192GB가 되지만, NVLink 스케일업 영역을 GPU 72개에서 576개로 확대해 개별 칩의 메모리 감소를 시스템 전체의 연결성과 총 메모리로 보완하려는 구조임. [팩트, p2]

3. 이 전략이 중요한 이유는 AI 추론이 복잡해질수록 GPU만 많이 넣는 것으로는 부족하고, GPU 사이에서 데이터를 빠르게 주고받는 인터커넥트(interconnect, 칩과 칩을 연결하는 데이터 고속도로)가 병목을 결정하기 때문임. [해석]

4. 엔비디아는 NPO(Near-Packaged Optics, 스위치 칩 가까이에 광통신 부품을 배치하는 방식)와 CPO(Co-Packaged Optics, 광통신 기능을 스위치 패키지에 직접 결합하는 방식)를 이용해 NVLink 영역을 확장하려 하며, 이는 광통신·네트워크 부품의 중요도가 GPU 자체 못지않게 높아지는 변화임. [팩트, p2~3]

5. 반대로 AMD MI455X는 HBM4를 432GB 탑재해 Rubin의 288GB보다 약 50% 많은 메모리를 제공하고, Helios 랙에서도 GPU와 CPU 비율을 4:1로 높여 네트워크 생태계보다는 GPU와 HBM 자체에 원가·전력을 집중하는 전략임. [팩트, p6~7]

6. 따라서 이번 보고서의 투자 함의는 단순히 “엔비디아냐 AMD냐”가 아니라 엔비디아 방식이 확산되면 광인터커넥트·네트워크·스위치·SSD 계층이, AMD 방식이 확산되면 HBM·GPU·고집적 패키징이 상대적으로 더 큰 수혜를 받는다는 점임. [해석]

7. 다만 엔비디아의 Rubin Ultra HBM 축소와 NVL576 구조는 아직 공식 확정이 아니라 보도를 전제로 한 추론이고, 일부 인터커넥트 기업은 이미 높은 밸류에이션을 받고 있어 섹터 전체에 지금 바로 강한 매수 의견을 내릴 만큼 확실한 단계는 아님. [팩트, p2, p9]

---

🚀 사건의 핵심은 ‘메모리 부족을 더 큰 네트워크로 우회하는가’의 문제임

8. 보고서는 엔비디아가 2027년 하반기 출시 예정인 Rubin Ultra의 HBM4를 12단 288GB에서 8단 192GB로 낮출 가능성을 제시하며, 이를 단순 스펙 후퇴가 아니라 HBM 공급 제약 속에서 GPU 출하량을 늘리기 위한 시스템 최적화로 해석함. [팩트, p2]

[표 ‘엔비디아 폼팩터 로드맵 예상 스펙 비교’, p2]

9. NVL576은 8개 Oberon 랙을 묶어 Rubin Ultra GPU 576개를 하나의 스케일업 도메인으로 연결하는 구조로 예상되며, GPU당 HBM은 감소해도 전체 HBM은 약 113TB로 NVL72의 약 21TB보다 훨씬 커지는 구조임. [팩트, p2]

[표 ‘엔비디아 폼팩터 로드맵 예상 스펙 비교’, p2]

10. 스케일업(scale-up)은 여러 GPU를 하나의 거대한 컴퓨터처럼 매우 빠르게 연결하는 방식이고 스케일아웃(scale-out)은 여러 서버를 상대적으로 느슨하게 연결하는 방식인데, 보고서는 Rubin 플랫폼에서 NVLink 스케일업 대역폭이 스케일아웃보다 최대 약 9배 높다고 제시함. [팩트, p3]

[그림 ‘엔비디아 스케일업·스케일아웃 랙 합산 대역폭 비교’, p3]

11. 쉽게 말하면 엔비디아는 “각 작업자의 책상을 더 크게 만드는 것”보다 “수백 명의 작업자가 같은 자료를 거의 동시에 공유하는 초고속 통로를 만드는 것”에 가까운 전략을 택하고 있음. [해석]

---

🧠 HBM을 줄여도 성능을 유지하려는 두 번째 장치는 ‘메모리 계층화’임

12. 엔비디아는 Vera CPU용 LPDDR5X SOCAMM 메모리도 192GB에서 96GB로 축소한 전례가 있으며, KV 캐시를 SSD와 NAND로 내려보내는 ICMS(Inference Context Memory Subsystem, 추론 중 필요한 과거 문맥 데이터를 별도 저장장치에 보관하는 구조)가 이러한 선택을 가능하게 하는 요소로 제시됨. [팩트, p4]

[표 ‘엔비디아 스토리지 계층 구분’, p4]

13. KV 캐시는 생성형 AI가 앞에서 계산한 문맥 정보를 다시 계산하지 않도록 저장하는 공간인데, 이를 HBM에 전부 올리지 않고 SSD 계층으로 일부 옮기면 비싼 HBM을 덜 쓰면서 더 많은 GPU를 출하할 여지가 생김. [해석]

14. BlueField-4 DPU(Data Processing Unit, CPU 대신 네트워크·스토리지 처리를 전담하는 프로세서)는 이 SSD 계층의 데이터를 GPU 쪽으로 전달하는 역할을 맡기 때문에, 엔비디아의 전략은 GPU·CPU·DPU·SSD·광네트워크를 하나의 시스템으로 묶는 방향으로 진화하고 있음. [팩트, p4~5]

[표 ‘엔비디아 Vera Rubin Pod 구성’, p5]

15. 이 구조가 현실화될수록 투자 수혜는 HBM만 보는 것보다 CPO·NPO 광부품, NVLink 스위치, 고속 SerDes(Serializer/Deserializer, 데이터를 고속 직렬화해 전송하는 회로), 케이블, SSD와 DPU까지 넓게 봐야 함. [해석]

---

⚔️ AMD는 정반대로 ‘GPU 한 개를 더 강하게 만드는 길’을 택함

16. AMD MI455X는 HBM4 12스택과 432GB 메모리를 탑재해 Rubin의 8스택·288GB보다 용량이 크고, 랙 기준 HBM 총용량도 Helios가 31.1TB로 VR NVL72의 20.7TB보다 많음. [팩트, p6]

[표 ‘엔비디아·AMD 차세대 GPU 비교’ 및 ‘엔비디아·AMD 랙시스템 비교’, p6]

17. Helios는 GPU 72개에 CPU 18개를 배치해 GPU:CPU 비율이 4:1인 반면 엔비디아 VR NVL72는 GPU 72개와 CPU 36개로 2:1이므로, AMD는 CPU 기반 오케스트레이션보다 GPU와 HBM에 더 많은 자원을 집중하는 구조임. [팩트, p6~7]

[그림 ‘AMD Helios 컴퓨트 트레이’, p7]

18. 따라서 AMD 방식은 엔비디아 수준의 NVLink·ICMS·Vera Rubin Pod 생태계가 충분히 갖춰지지 않은 상황에서 개별 노드의 메모리와 연산력을 최대화해 시스템 통합 격차를 보완하는 전략으로 이해할 수 있음. [해석]

---

💰 투자 관점에서는 네트워크 수혜가 가장 선명하지만 가격이 문제임

19. 보고서의 글로벌 AI 밸류체인 표를 보면 엔비디아의 선행 PER(Forward Price Earnings Ratio, 예상이익 기준 주가수익비율)은 약 22.4배인 반면 인터커넥트 기업인 Credo 41.1배, Astera Labs 60.3배, Lumentum 56.6배 등으로 거래되어 네트워크 성장 기대가 이미 상당 부분 주가에 반영된 기업도 많음. [팩트, p8~9]

[표 ‘글로벌 AI 밸류체인 (1)·(2)’, p8~9]

20. 즉 산업 방향성만 놓고 보면 엔비디아의 연결 중심 전략 → 광인터커넥트·스위치·고속네트워크 수요 증가라는 논리는 강하지만, 좋은 산업과 좋은 주식은 같은 말이 아니므로 밸류에이션까지 확인해야 함. [해석]

---

📈 리스크 & 기회

구간	구분	확률	영향도	확인법
단기 1~3개월	네오클라우드 증설과 GPU 렌탈가격 강세가 이어질 기회임	60%	보통	CoreWeave·Nebius의 Active Power 증설, H100 렌탈가격, 신규 GPU 계약을 확인함
단기 1~3개월	금리·차입비용 상승으로 CoreWeave 같은 고레버리지 사업자의 투자속도가 둔화될 리스크임	45%	높음	CPI, 회사채 스프레드, 순차입금과 이자비용을 확인함
중기 6~12개월	NVL576·CPO/NPO 채택이 구체화되며 네트워크 장비의 구조적 콘텐츠가 증가할 기회임	65%	높음	엔비디아 공식 로드맵, 스위치 수량, 광모듈·CPO 공급계약을 확인함
중기 6~12개월	Rubin Ultra의 HBM 축소 보도가 틀리거나 NVL576 채택이 지연될 리스크임	35%	높음	엔비디아 공식 사양, 파트너 로드맵, HBM 주문 동향을 확인함

⚠️ 최종 판단

21. 이 보고서만 놓고 보면 AI 인프라 내부에서 가치가 GPU 단품에서 네트워크·메모리 계층·스토리지까지 이동하고 있다는 방향성에는 높은 확신을 가질 수 있지만, 핵심 전제인 Rubin Ultra HBM 축소와 NVL576 채택이 아직 공식 확정이 아니고 수혜주 밸류에이션도 이미 높은 편이므로 완벽한 확신에는 도달하지 못함. [해석]

22. 따라서 나라면 지금은 글로벌 AI 인프라 섹터 전체에 신규로 강하게 베팅하지 않고 엔비디아의 공식 NVL576·CPO/NPO 로드맵과 실제 고객 채택을 확인한 뒤 네트워크·인터커넥트 밸류체인 가운데 실적 증가보다 밸류에이션 상승이 덜 앞선 기업만 선별하겠으며, 현 시점에는 명시적인 매수 의견을 유보함. [해석]

🧵 한 줄 코멘트

이번 경쟁은 “한 사람에게 더 큰 가방을 주는 AMD”와 “가방은 줄이되 576명이 초고속 컨베이어벨트로 물건을 공유하게 만드는 엔비디아”의 대결이며, 엔비디아 방식이 현실화될수록 AI의 병목은 메모리 용량에서 연결 속도로 이동함.

https://finance.naver.com/research/invest_read.naver?nid=39865