엔비디아 GTC 2026이 3월 16일부터 미국 산호세에서 열리고 있습니다. 이번 행사의 가장 큰 변화는 단순한 칩 발표를 넘어 AI 인프라를 ‘팩토리’ 단위로 재구성하는 ‘루빈(Rubin)’ 시스템을 발표한다는 점입니다. 전력 공급부터 냉각, 컴퓨팅, 네트워크, 소프트웨어 제어까지 모든 과정을 하나의 렉(Rack) 시스템으로 통합 설계한 이번 발표는 AI 산업의 새로운 전환점이 될 것으로 보입니다. 이번 GTC에서 주목해야 할 핵심 키워드를 정리해보면 다음과 같습니다.
| 구분 | 핵심 내용 | 영향 |
|---|---|---|
| 시스템 아키텍처 | 단일 칩에서 ‘AI 팩토리’ 렉(Rack) 단위 설계로 전환 | 통합 설계를 통한 효율성 극대화, 에너지 절감 |
| 컴퓨팅 혁신 | CPX(문맥 처리)와 LPX(저지연 추론)로 역할 세분화 | 에이전트 AI와 실시간 추론 성능 획기적 향상 |
| 데이터 이동 | CPO(공동 패키징 광학)와 ICMS(추가 메모리) 도입 | 데이터 병목 현상 해소, 광통신 기술 수요 급증 |
| 소프트웨어 전략 | 오픈소스 프레임워크 ‘다이나모(Dynamo)’ 공개 | 생태계 확장 및 하드웨어 의존도 강화 |
목차
AI 팩토리의 시작 루빈 시스템
기존의 GPU 기술 혁신이 단일 칩의 성능 향상에 집중했다면, 루빈은 데이터 센터의 현실적 문제인 전력과 냉각, 효율성을 근본적으로 해결하기 위해 태어났습니다. 마치 하나의 공장처럼 렉 전체를 설계함으로써 각 부분이 최적으로 협업하도록 만들었죠. 전력 공급 장치(PSU)는 외부에서 들어오는 전력을 렉 전체에 안정적으로 공급하며, 실시간 전력 소비량을 모니터링하고 사용자가 설정에 따라 Max-Q(1800W, 고효율) 모드와 Max-P(2300W, 고성능) 모드를 선택할 수 있게 했습니다. 대부분의 데이터 센터는 가용 전력이 제한되어 있기 때문에, 전성비가 높은 Max-Q 모드를 선호해 더 많은 렉을 설치하고 총 AI 처리량을 극대화할 것으로 예상됩니다. 냉각 측면에서도 렉 뒷면에 통합된 액체 냉각 매니폴드는 서버 팟들로 차가운 냉각수를 공급하고 열을 효율적으로 배출하는 역할을 합니다.
새로운 컴퓨팅 시대의 핵심 CPX와 LPX
루빈 시스템 내부의 컴퓨팅 팟은 AI 작업을 효율적으로 분담하는 특화 칩들로 구성됩니다. 베라 루빈 GPU와 함께 두 가지 새로운 가속기가 주목을 받는데요. 바로 CPX(Context Processing Accelerator)와 LPX(Latency Processing Accelerator)입니다. CPX는 수백 페이지의 PDF나 긴 동영상과 같은 방대한 데이터를 한번에 읽어들이는 ‘프리필’ 단계를 담당합니다. 이 과정은 순수한 연산 능력이 중요하기 때문에 고대역폭 메모리 HBM4가 핵심 역할을 합니다. 반면, LPX는 사용자의 질문에 단어를 하나씩 실시간으로 생성해내는 ‘디코드’ 단계를 맡습니다. 여기서 핵심은 지연 시간을 거의 제로에 가깝게 만드는 SRAM 메모리입니다. LPX는 Groq의 기술에서 영감을 받아 칩 전체를 SRAM으로 채워 데이터 이동 경로를 소프트웨어가 미리 100% 설계함으로써 병목 현상을 원천 차단합니다. 덕분에 사용자는 AI가 끊김 없이 타자를 치듯 답변을 생성하는 경험을 할 수 있게 되죠. 이렇게 칩의 역할이 세분화되면서 AI 에이전트의 복잡한 추론과 실시간 대응이 한층 더 자연스러워질 전망입니다.
데이터의 고속도로 CPO와 거대한 기억창고 ICMS
복잡한 에이전트 AI가 작동할 때는 방대한 양의 문맥 데이터를 빠르게 저장하고 불러와야 하는데, 기존 HBM 메모리의 용량으로는 한계가 있었습니다. 이를 해결하기 위해 등장한 것이 ICMS(Inference Context Memory Storage)입니다. 각 GPU에 16TB라는 엄청난 추가 메모리를 제공해 AI의 ‘단기 기억’ 용량을 극적으로 확장시킵니다. 하지만 이렇게 많은 데이터를 빠르게 이동시키지 못하면 의미가 없겠죠. 여기서 빛의 속도로 데이터를 전송하는 CPO(Co-Packaged Optics) 기술이 등장합니다. CPO는 전기 신호 대신 빛(광학 신호)을 사용하고, 칩 패키지 안에 광학 엔진을 직접 집어넣어 전력 소모는 크게 줄이면서 데이터 전송 속도는 획기적으로 높였습니다. Quantum-X와 Spectrum-X 같은 광학 스위치는 이 CPO 기술을 적용해, ICMS라는 거대한 창고에 저장된 데이터를 빛의 속도로 컴퓨팅 칩에 공급합니다. 이는 AI가 수백만 토큰에 달하는 긴 문맥을 실시간으로 처리할 수 있는 기반이 됩니다.
소프트웨어 생태계의 확장과 에이전트 AI
하드웨어의 혁신만큼 중요한 것은 이를 제어하고 활용하는 소프트웨어입니다. 엔비디아는 루빈 시스템의 복잡한 자원을 관리하기 위해 ‘다이나모(Dynamo)’라는 오픈 소스 소프트웨어 프레임워크를 선보입니다. 다이나모는 에이전트의 작업 우선순위에 따라 CPX, LPX, ICMS 등 하드웨어 자원을 실시간으로 스케줄링합니다. 긴 문서 분석에는 CPX에 자원을 집중시키고, 실시간 응답에는 LPX를 활용하죠. 이 프레임워크를 오픈소스로 제공함으로써, 전 세계 개발자들이 복잡한 하드웨어 구조를 깊이 알지 못해도 엔비디아의 최신 인프라를 쉽게 활용할 수 있게 합니다. 동시에 이는 엔비디아 하드웨어에 대한 산업 표준과 의존도를 더욱 공고히 하는 전략적 도구이기도 합니다. 한편, 에이전트 AI 시장에 본격적으로 진출하기 위한 플랫폼 ‘NemoClaw’의 공개도 예고되었습니다. 기존 AI 에이전트 플랫폼의 보안 문제를 해결하고, 엔비디아 생태계 내에서 안전하게 동작하는 B2B용 에이전트 플랫폼 시장을 선점하겠다는 의지로 읽힙니다.
차세대 아키텍처와 메모리 전쟁
이번 GTC에서는 현재 개발 중인 차세대 ‘파인만’ 아키텍처에 대한 힌트도 얻을 수 있을 것으로 기대됩니다. 베라 루빈이 HBM4를 탑재한다면, 파인만에는 그 다음 단계인 HBM4e가 사용될 것이며, 인텔과의 협력을 통한 I/O 기술 발전도 주목할 만합니다. 무엇보다 HBM4 시장에서는 삼성전자, SK하이닉스, 마이크론의 3사 경쟁이 치열해지고 있습니다. 삼성전자가 최초 양산 출하를 발표하는 등 선두 경쟁을 벌이고 있으며, 엔비디아는 이들 공급사 간 경쟁을 유도해 가격 안정화와 공급 확보를 꾀하고 있습니다. 또한 추론 작업 전용 칩에 대한 발표 가능성도 높습니다. 학습과 추론을 하나의 범용 GPU가 담당하던 시대에서, CPX(프리필 전용)와 더불어 LPX와 같은 디코딩 전용 칩이 본격화된다면 AI 추론 시장의 지형을 바꿀 중요한 변화가 될 것입니다.
GTC 2026이 열어가는 AI 생태계의 미래
정리하자면, GTC 2026은 단순한 제품 발표회를 넘어 AI 인프라를 바라보는 관점 자체를 전환하는 자리입니다. 개별 칩의 스펙보다는 AI 팩토리라는 통합 시스템으로의 진화, 전력과 냉각 같은 물리적 제약을 해결하는 설계, 그리고 작업에 따라 최적화된 특화 칩의 등장이 핵심입니다. 이는 광통신(CPO), 전력 관리, 고급 냉각 시스템, 그리고 HBM을 비롯한 메모리 반도체에 이르기까지 관련 산업 전반에 걸친 새로운 수요를 창출할 것입니다. 엔비디아는 하드웨어의 통합 설계와 오픈소스 소프트웨어 전략으로 생태계의 중심을 더욱 확고히 하면서, AI의 다음 단계인 에이전트 AI와 피지컬 AI 시대를 준비하고 있습니다. 이번 행사가 보여주는 큰 그림은, AI 기술이 이제 특정 장비의 성능을 넘어 전력망, 데이터센터, 네트워크까지 포함한 전체 인프라와 융합되는 새로운 단계에 접어들었음을 의미합니다.
