미국 캘리포니아 새너제이에서 열린 엔비디아 연례 개발자회의 GTC 2026의 공기는 예년과 조금 달랐다. 무대는 더 화려했고 발표는 더 거대했지만, 이번 행사의 핵심은 새 칩 몇 개를 더 보여주는 데 있지 않았다. 젠슨 황 엔비디아 최고경영자(CEO)는 2시간이 넘는 키노트에서 AI 산업이 이제 또 한 번 전환점에 들어섰다고 선언했다.
그는 “우리는 새로운 플랫폼 전환의 시작점에 서 있다”라고 운을 띄우며, 이어 “추론의 변곡점(Inference inflection)이 왔다”라고 강조했다. 지난 2년이 거대언어 모델을 얼마나 크게 학습시키느냐의 경쟁이었다면, 이제 시장의 초점은 그렇게 만들어진 모델을 얼마나 빠르고 싸고 안정적으로 실제 서비스에 투입하느냐로 이동하고 있다는 뜻이다. 이 변화는 단순한 기술 유행의 변화가 아니다. 돈이 흐르는 방향, 반도체 공급망의 우선순위, 자동차와 로봇 산업의 주도권까지 함께 바꾸는 구조적 이동에 가깝다. 젠슨 황은 이번 GTC에서 “추론은 지능의 엔진”이라고 말했다.
질문 하나를 입력하면 답이 나오는 단순한 챗봇을 넘어, 스스로 계획을 세우고 도구를 호출하며 업무를 수행하는 에이전틱 인공지능(Agentic AI)이 확산할수록 추론 수요는 폭발적으로 늘어날 수밖에 없다는 판단이다. 엔비디아가 이번에 다이너모(Dynamo)를 ‘인공지능 팩토리(AI factory)의 운영체제’라고 규정한 것도 같은 맥락이다.
이제 AI 산업의 승부는 모델을 만든 뒤 끝나는 것이 아니라, 그 모델을 24시간 쉬지 않고 돌려 얼마나 많은 토큰(Tokens)을 안정적으로 생산하느냐에서 갈린다. 제로 젠슨 황은 키노트 내내 AI를 더 이상 ‘소프트웨어’가 아니라 ‘생산 시스템’에 가깝게 설명했다. 사용자의 질문을 AI가 이해 가능한 토큰으로 바꾸는 사전 처리(prefill), 그리고 이를 바탕으로 실제 답변을 생성하는 디코드(decode) 단계를 분리해 설명한 것도 인상적이었다.
로이터에 따르면 엔비디아는 베라 루빈(Vera Rubin) 계열 시스템이 사전 처리를 맡고, 그록(Groq) 계열 추론 가속기가 디코드에 최적화되는 식으로 차세대 추론 구조를 제시했다. 한마디로 요약하면, 더 이상 GPU 한 장의 성능을 말하는 시대가 아니라 어떤 구조로 인공지능 공장을 짓고 돌릴 것인가를 말하는 시대가 열린 셈이다.
이번 GTC에서 가장 상징적인 장면은 베라 루빈 플랫폼 공개였다. 엔비디아는 이를 단순한 차세대 그래픽처리장치(GPU) 세대로 소개하지 않았다. 베라 중앙처리장치(CPU), 루빈 GPU, 차세대 엔브이링크(NVLink), 네트워킹, 저장장치, 전력과 냉각까지 묶어 랙(Rack) 단위로 공급하는 거대한 시스템으로 보여줬다. 젠슨 황은 연산 가속기 하나를 파는 회사를 넘어, 인공지능 생산설비 전체를 공급하는 기업으로 엔비디아의 정체성을 재정의하고 있었다. 엔비디아는 이미 올해 초 베라 루빈을 두고 “훈련(training)과 추론(inference) 수요가 모두 폭증하는 시점에 맞춰 나온 플랫폼”이라고 설명한 바 있다. 이번GTC는 그 그림을 보다 구체적으로 완성한 자리였다.
이 장면을 이해하려면 젠슨 황이 왜 거듭 “인공지능 팩토리(AI factory)”라는 표현을 쓰는지 볼 필요가 있다. 전통적인 데이터센터(Data Center)가 정보를 저장하고 처리하는 창고에 가까웠다면, 엔비디아가 말하는 인공지능 팩토리는 데이터를 넣으면 토큰과 모델 성능, 서비스 수익이 나오는 생산기지에 가깝다. 그래서 이 체제에서는 그래픽처리장치 하나의 성능보다 메모리 대역폭, 전력 효율, 네트워크 병목, 저장장치 지연, 냉각 구조 같은 요소가 더 중요해진다. 젠슨 황이 키노트를 통해 “우리는 새로운 플랫폼 전환의 시작점에 있다”고 한 말은, 결국 컴퓨팅 산업의 주도권이 ‘범용 서버’에서 ‘추론 중심 인공지능 인프라’로 넘어가고 있다는 선언으로 읽힌다.
한 외신은 최근 젠슨 황이 올해 말까지 엔비디아가 상대해야할 칩 주문 적체가 1조달러 규모에 이를 수 있다고 봤다고 전했다. 시장이 그의 말을 단순한 과장으로 넘기지 않는 이유는, 그가 지금 팔고 있는 것이 반도체가 아니라 산업의 새 운영체계이기 때문이다.
이 지점에서 한국 기업들의 위상도 달라진다. 인공지능 공장은 GPU만으로 돌아가지않는다. 고대역폭 메모리(HBM), 차세대 서버용 메모리 모듈, 첨단 패키징, 차량 데이터, 디지털 트윈(Digital twin), 시뮬레이션 인프라까지 있어야 비로소 완성된다. 이번 GTC에서 삼성전자와 SK하이닉스, 현대차그룹의 존재감이 유난히 컸던 이유도 여기에 있다. 이제 한국 기업은 엔비디아 생태계의 주변 납품사가 아니라, 추론 시대의 인프라를 함께 짓는 핵심 파트너에 더 가까워지고 있다.
이번 GTC에서 또 하나 선명했던 축은 자율주행이었다. 몇 해 전만 해도 엔비디아의 자동차 사업은 데이터센터 사업에 비해 상대적으로 조용한 편이었다. 하지만 올해는 달랐다. 엔비디아는 드라이브 하이페리온(DRIVE Hyperion) 플랫폼을 앞세워 비야디(BYD), 지리(Geely), 이스즈(Isuzu), 닛산(Nissan) 등이 레벨4(level 4) 차량 개발을 확대하고 있다고 밝혔다. 여기에 우버(Uber)와 협력해 2028년까지 28개 시장에서 풀스택(full-stack) 로보택시 (Robotaxi)를 전개하겠다는 계획까지 내놨다. 이것은 자동차 부문을 다시 키우겠다는 수준을 넘어, 현실 세계에서 움직이는 AI의 상용화 무대를 자율주행에서 먼저 크게 열겠다는 뜻에 가깝다.
여기서 젠슨 황의 메시지는 더욱 분명해진다. 그는 공식발표를 통해 “새로운 산업혁명의 새벽이 도래했다”라며, 물리 인공지능(physical AI)과 자율 에이전트가 설계와 제조 방식을 근본적으로 바꾸고 있다고 말했다.
이 문장은 이번 GTC를 해석하는 핵심 열쇠다. 엔비디아는 자율주행을 단지 자동차 제조사에 칩을 공급하는 사업으로 보지 않는다. 자동차, 로봇, 공장, 물류, 제조를 하나의 물리 인공지능 체계로 묶는 관문으로 본다. 그래서 이번 행사에서 공개된 것은 차량용 컴퓨터만이 아니었다.
엔비디아는 실제 도로에서 수집한 데이터와 합성 데이터(Synthetic data)를 결합해 학습용 데이터를 대량 생산하는 물리 인공지능 데이터 팩토리(Physical AI Data Factory) 청사진도 함께 내놨다. 희귀한 돌발 상황과 긴꼬리 시나리오(Long-tail scenario)까지 가상으로 만들어 학습시키겠다는 구상이다.
이것이 왜 중요한가. 자율주행의 가장 큰 병목은 알고리즘이 아니라 데이터와 검증이다. 실제 도로에서 모든 위험 상황을 모으는 데는 한계가 있고, 그러한 한계를 넘기 위해서는 현실과 최대한 닮은 가상 검증 환경이 필요하다. 엔비디아는 옴니버스(Omniverse), 코스모스(Cosmos), 오스모(OSMO) 같은 도구를 통해 바로 이 병목을 줄이겠다고나섰다. 결국 자율주행 경쟁력은 단순히 센서를 얼마나 붙였느냐가 아니라, 얼마나 많은 데이터를 만들고 선별하고 검증해 배포하는가로 옮겨가고 있다. 젠슨 황이 말한 추론의 시대는 자동차 산업에서도 그대로 적용된다. 차는 더 이상 기계가 아니라, 지속적으로 학습하고 업데이트되는 움직이는 컴퓨터가 되고 있기 때문이다.
현대차그룹과 엔비디아의 관계는 이번 GTC를 계기로 한단계 더 또렷해졌다. 현대차그룹은 지난해 10월 엔비디아와 함께 블랙웰(Blackwell) 기반 인공지능 팩토리를 짓고, 차량용 인공지능, 자율주행, 스마트 팩토리(Smart factory), 로보틱스(Robotics)를 통합적으로 고도화하겠다고 밝힌 바 있다. 당시 양사는 5만 개의 블랙웰 GPU를 활용해 학습·검증·배포 체계를 강화하겠다고 했고, 한국 정부와 함께 물리 인공지능 클러스터(Physical AI cluster) 조성에도 협력하겠다는 청사진을 내놨다.
이때 젠슨 황은 “AI는 모든 산업의 모든 측면을 바꿀 것”이라며 “현대차와 함께 지능형 자동차와 공장을 만들고 있다”라고 말했다.
이번 GTC 2026에서는 그 협력이 더 구체적으로 자동차안쪽으로 들어왔다. 엔비디아와 현대차·기아는 선택된 차량에 레벨2 이상 자율주행 기술을 확대 적용하고, 모셔널(Motional)을 통해 레벨4 로보택시까지 함께 추진하는 확대 협력안을 발표했다. 엔비디아 측은 현대차그룹의 소프트웨어 정의 차량(SDV) 역량과 대규모 차량 플릿(Fleet), 그리고 자율주행 개발 경험이 엔비디아의 가속 컴퓨팅(accelerated computing), 인공지능 인프라, 자율주행 소프트웨어와 결합한다고 설명했다. 현대차그룹은 실제 차량에서 나오는 방대한 데이터를 갖고 있고, 엔비디아는 그 데이터를 학습과 시뮬레이션, 검증 체계로돌릴 플랫폼을 갖고 있다. 양사의 협력이 단순 부품 구매가 아니라 ‘데이터-학습-배포’라는 자율주행 산업의 심장부를 같이 짜는 형태로 바뀌고 있는 셈이다.
여기서 주목할 것은 현대차의 역할이다. 지금까지 AI 반도체 생태계에서 한국 기업의 존재감은 주로 메모리 쪽에서 설명됐다. 하지만 현대차가 이 구조에 깊숙이 들어오면 얘기가 달라진다. 차량 데이터와 제조 데이터, 공장 디지털 트윈, 로봇 운영 데이터까지 함께 보유한 현대차는 물리 인공지능 시대의 핵심 실험장이 될 수 있다. 현대차가 엔비디아 옴니버스와 코스모스를 활용해 지역별 주행 환경의 디지털 트윈을 만들고, 주행 소프트웨어를 무수한 가상 시나리오에서 시험·검증하려는 것도 이 때문이다.
결국 현대차는 단순한 완성차 업체가 아니라, 엔비디아가 말하는 ‘현실 세계 AI’의 대표 파트너로 부상하고 있다.
이번 GTC에서 가장 분주했던 부스 중 하나가 삼성전자였다. 삼성전자는 엔비디아 베라 루빈 플랫폼용으로 설계된 6세대 고대역폭 메모리 HBM4가 이미 양산 중이라고 밝혔고, 차세대 제품인 HBM4E도 이번 행사에서 처음 공개했다. 삼성 설명에 따르면 HBM4는 업계 기준을 웃도는 초당 11.7기가비트(Gbps) 처리 속도를 구현하며, HBM4E는 핀당 16Gbps와 초당 4테라바이트(TB/s) 대역폭을 목표로 한다. 삼성은 이번 전시에서 메모리(Memory), 로직(Logic), 파운드리(Foundry), 첨단 패키징(advanced packaging)을 묶은 ‘토털 AI 솔루션’을 전면에 내세웠다. 엔비디아가 추론 시대에 맞는 인공지능 공장을 팔겠다고 나선 순간, 삼성은 그 공장에 들어가는 핵심 부품을 통째로 공급할 수 있는 몇 안 되는 후보라는 점을 강조한 것이다.
여기에 시장의 시선을 가장 크게 끈 것은 젠슨 황이 키노트에서 삼성의 파운드리 역할을 공개적으로 언급한 대목이었다. 엔비디아는 이번 GTC에서 그록 기술이 적용된 새 추론 칩을 공개했고, 젠슨 황은 이칩이 삼성의 4나노미터(nm) 공정에서 생산된다고 밝혔다. 이는 삼성의 인공지능 시대 전략이 메모리 공급에만 머물지 않고, 추론용 반도체 생산까지 넓어지고 있음을 보여준다. 지금까지 엔비디아 공급망에서 삼성의 약점으로 거론되던 것은 파운드리 경쟁력과 HBM 주도권이었다. 그런데 GTC 2026은 삼성이 적어도 ‘추론 시대의 신규 칩 기회’에서는 다시 한번 존재감을 만들고 있다는 신호를 던졌다.
SK하이닉스의 위치는 여전히 견고하다. SK하이닉스는 이번 GTC에서 HBM4, HBM3E, 저전력 서버 메모리 모듈인 소캠2(SOCAMM2) 등을 전시하며 엔비디아와의 기술적 밀착도를 부각했다. 회사는 부스를 엔비디아 협업 구역, 제품 포트폴리오 구역, HBM 체험 구역으로 나눠 “AI 메모리의 중심”이라는 메시지를 분명히 했다. 특히 엔비디아 차세대 가속기인 베라 루빈에 들어갈 HBM4와 소캠2를 함께 보여준 것은, SK하이닉스가 단순히 현재의 승자일 뿐 아니라 다음 세대 구조에서도 앞서가겠다는 자신감으로 읽힌다.
수치로 봐도 그 위상은 분명하다. 로이터는 카운터포인트 리서치를 인용해 SK하이닉스가 현재 HBM 시장의 57%, 전체 D램(DRAM) 시장의 32%를 차지하고 있다고전했다. 최태원 SK그룹 회장이 GTC 현장에서 “웨이퍼(wafer) 부족이 2030년까지 이어질 수 있다”는 경고를 내놓은 것도 이 시장이 얼마나 빠르게 팽창하고 있는지를 보여준다. 인공지능 수요가 늘수록 HBM은 더 많이 필요하고, HBM을 더 많이 만들수록 일반 D램에 투입할 웨이퍼는 부족해진다. 추론 시대가 열릴수록 메모리는 더 중요해지지만, 동시에 공급망 불안도 더 커지는 구조다.
이 대목에서 ‘엔비디아-삼성-SK하이닉스 동맹’이라는 표현은 상징적으로는 맞지만, 실제로는 조금 더 복합적이다. 삼성과 SK하이닉스는 분명 치열한 경쟁자다. 그러나 엔비디아가 구축하는 인공지능 팩토리 체제 안에서는 두 회사 모두 필수 파트너이기도 하다. SK하이닉스가 HBM 선두의 지위를 굳히는 동안, 삼성은 HBM4와 HBM4E, 그리고 파운드리까지 묶어 다른 방식의 존재감을 키우고 있다. 추론 시대에는 메모리 수요가 줄어드는 것이 아니라 오히려 더 세분화되고 더 복잡해진다. 한국 반도체 기업들에는 경쟁의 강도만큼이나 기회의 폭도 커지고 있다는 의미다.
[박지훈 기자]