글로벌 인공지능(AI) 인프라 확산과 함께 고대역폭 메모리(HBM) 수요가 급증하고 있지만, 시장의 시선은 더 이상 성능 경쟁에 머물지 않고 ‘공급의 한계’에 이목이 쏠리고 있다. HBM은 여러 개의 D램을 수직으로 쌓아 데이터 처리 속도를 크게 높인 차세대 메모리로, AI 연산에 필수적인 핵심 부품으로 꼽힌다.

HBM4 시대를 맞아 경쟁의 축이 기술 고도화에서 패키징, 수율, 공급망 연동까지 아우르는 구조적 문제로 확장되고 있다. 업계에서는 이제 반도체 경쟁의 기준이 ‘얼마나 잘 만드느냐’에서 ‘얼마나 안정적으로 양산하고 제때 출하할 수 있느냐’로 바뀌고 있다는 평가가 나온다. 특히 AI 반도체 수요가 특정 시점에 집중되는 특성상, 단순 생산 능력보다 공급 일정과 안정성이 기업 경쟁력의 핵심 지표로 부상하고 있다는 점도 이러한 변화의 배경으로 지목된다.

삼성전자와 SK하이닉스의 주도권 경쟁 역시 이러한 구조적 제약 속에서 새로운 국면에 들어섰다. 과거처럼 공정 미세화나 단순 성능 지표만으로 우위를 판단하기 어려워졌고, 패키징·검증·출하까지 이어지는 전체 공급 능력이 경쟁력을 좌우하는 단계로 넘어가고 있다.

HBM3E까지의 경쟁이 선행 양산과 공급 안정성 중심이었다면, HBM4부터는 안정적인 양산·출하가 핵심 변수로 부상했다. 메모리 성능 경쟁에서 출발한 전선이 이제는 패키징과 공급 구조 전반으로 확장되는 흐름이다.

이 변화의 중심에는 ‘구조적 병목’이 있다. AI 수요는 빠르게 증가하고 있지만 공급 확대 속도는 이를 따라가지 못하고 있다. 이는 단순한 설비 부족의 문제가 아니라 기술 난도, 물리적 공간, 생태계 연동이 동시에 작동한 결과라는 해석이 나온다.

교보증권 보고서에 따르면 HBM은 범용 D램보다 동일 용량 생산에 더 많은 웨이퍼가 필요해 생산 비중이 확대될수록 전체 D램 공급 여력이 줄어드는 ‘역스케일링’ 현상이 나타날 수 있다. 이는 HBM이 새로운 시장을 창출하는 동시에 기존 메모리 공급을 압박하는 구조적 특성을 보여준다.

사진 확대

사진 확대

여기에 그래픽처리장치(GPU)와 HBM을 하나의 패키지로 묶는 첨단 패키징 공정이 공급의 상한선을 결정하는 병목으로 작용하고 있다. 칩 온 웨이퍼 온 서브스트레이트(CoWoS) 공정은 AI 반도체에서 그래픽처리장치(GPU)와 HBM을 하나로 묶는 핵심 패키징 기술인데, 현재 이 공정의 처리 능력이 수요를 따라가지 못하는 상황으로 알려져 있다. 이 과정에서 칩들을 연결해주는 ‘중간 기판’ 역할을 하는 인터포저 생산도 제한적이다. 이 때문에 메모리 성능이 개선되더라도 실제 제품 출하 단계에서는 패키징 설비가 공급 확대의 제약 요인으로 작용하고 있다는 분석이 나온다.

차세대 공장 건설 지연과 클린룸·전력 인프라 부족도 공급 확대의 변수로 지목된다. 최첨단 공정을 돌리기 위해서는 넓은 생산 공간과 대규모 전력이 동시에 필요하지만, 이 두 조건을 모두 갖추는 데 시간이 걸리면서 생산 능력 확대 속도가 예전보다 느려지고 있다는 분석이다. 이 때문에 반도체 가격도 쉽게 떨어지지 않는 구조가 이어지고 있다. 업계 관계자는 “HBM4 경쟁은 생산량뿐만 아니라 ‘병목을 얼마나 효율적으로 통과시켜 출하로 연결하느냐’의 문제로 수렴되고 있다”고 말했다.

기술 측면에서도 경쟁의 기준이 달라지고 있다. HBM은 여러 개의 메모리 칩을 위로 차곡차곡 쌓고, 그 사이를 실리콘관통전극(TSV)이라는 통로로 연결해 데이터를 빠르게 주고받는 구조다. 하지만 이 연결 통로를 더 작게 만드는 데 한계가 가까워지면서, 단순히 칩을 더 높이 쌓는 방식만으로는 성능을 계속 끌어올리기 어려워졌다는 분석이 나온다.

이에 따라 하이브리드 본딩이 차세대 핵심 기술로 부상하고 있다. 범프 없이 칩을 직접 연결해 신호 지연을 줄이고 전력 효율을 개선할 수 있지만, 나노 단위 정렬과 접합 수율을 동시에 확보해야 하는 초고난도 공정이다. 업계에서는 이 기술이 향후 HBM 경쟁의 핵심 분기점이 될 가능성이 크다고 보고 있다.

HBM4부터는 전력과 발열도 중요한 변수로 떠오르고 있다. AI 데이터센터에서는 한 장비에 사용할 수 있는 전력이 제한돼 있어, 메모리도 빠른 속도와 낮은 전력 소비를 동시에 충족시켜야 한다.

특히 HBM은 여러 개의 칩을 높게 쌓아 좁은 공간에서 동시에 작동하는 구조라, 속도를 높일수록 열이 빠르게 쌓이기 쉽다. 이렇게 발생한 열을 제대로 식히지 못하면 성능이 떨어지거나 시스템이 불안정해질 수 있다. 이 때문에 단순히 속도를 높이는 경쟁을 넘어, 전력 효율을 높이고 열을 효과적으로 관리하는 설계 기술까지 함께 중요해지고 있다는 분석이다.

HBM4E 단계에서는 이 같은 기술적 난도가 더욱 높아질 전망이다. 동일 공정 기반에서도 성능을 끌어올리기 위해서는 트랜지스터 성능, 배선 구조, 열 설계를 동시에 최적화해야 하기 때문이다. 이는 HBM 경쟁이 제조 기술을 넘어 설계·공정 통합 경쟁으로 확장되고 있음을 보여준다. 결과적으로 경쟁의 초점은 적층 단수에서 적층 품질과 열·전력 관리 능력으로 이동하고 있다.

사진 확대

사진 확대

HBM4 시대에는 공급망 구조 자체도 경쟁력의 핵심 변수로 떠오르고 있다. 첨단 패키징은 메모리 기업 혼자서 완성할 수 있는 공정이 아니라, 칩을 대신 생산해주는 파운드리(반도체 위탁생산), 후공정 전문업체인 외주 반도체 패키징·테스트 업체(OSAT), 그리고 장비·소재 기업이 함께 맞물려야 가능한 복합 산업이기 때문이다.

특히 하이브리드 본딩과 고적층 패키징에 필요한 장비는 글로벌 소수 업체가 공급하고 있는 상황이다. 장비 확보와 공정 안정화까지 상당한 시간이 요구된다. 일부 장비와 소재에서는 납기 지연 가능성도 제기되며 설비 투자 확대가 곧바로 생산 능력 증가로 이어지지 않는 구조가 형성돼 있다. 또한 메모리, 파운드리, 패키징 공정이 서로 긴밀하게 연결돼 있다는 점도 중요한 변수다. HBM은 단독 제품이 아니라 GPU와 함께 설계되고 검증되는 구조라, 여러 공정이 동시에 맞물려 돌아간다.

예를 들어 데이터를 제어하는 로직 다이, 칩들을 연결하는 인터포저, 이를 하나로 묶는 패키징 공정까지 단계별로 이어진다. 이 과정에서 특정 공정이 지연될 경우 전체 공급 일정에 영향을 미칠 수 있는 구조다.

특히 HBM4부터는 메모리 아래쪽에 연산과 제어를 담당하는 ‘로직 칩’이 함께 붙는 구조가 늘어나고 있다. 이른바 고객사 요구에 맞게 설계되는 맞춤형 HBM(커스텀 HBM)이 확대되는 흐름이다. 이 경우 메모리 업체 혼자제품을 만들어 공급하는 것이 아니라, GPU 설계와 패키징 일정까지 함께 맞춰야 한다. 결국 고객사의 검증 일정과 패키징 공정 배정까지 동시에 충족해야만 실제 출하가 가능해지는 구조다. 이 때문에 여러 공정을 조율하는 능력 또한 중요한 경쟁 요소로 떠오르고 있다.

이 같은 구조 변화 속에서 삼성전자와 SK하이닉스의 전략 차이는 더욱 분명해지고 있다. 삼성전자는 ‘속도와 수직 통합’을 앞세운 전략을 강화하고 있다. HBM4의 상위 성능 제품을 중심으로 시장 공략에나서며 주요 AI 플랫폼 진입을 확대하려는 움직임이다. 이는 단순 물량 경쟁이 아니라 고부가가치 시장을 선점하려는 전략이다. 기술적으로는 메모리, 파운드리, 패키징을 아우르는 통합 구조가 핵심이다.

업계에서는 삼성전자가 1c 공정 기반 D램과 자체 파운드리 기반 로직 다이를 결합한 구조를 추진하며 설계 최적화를 시도하고 있는 것으로 보고 있다. 이는 성능과 전력 효율을 동시에 개선하기 위한 접근으로 평가된다.

SK하이닉스는 양산 안정성과 고객 신뢰를 중심으로 대응하고 있다. HBM3E에서 확보한 시장 지위를 기반으로 HBM4에서도 안정적인 공급 체계를 유지하고 있으며, 고객 요구 물량에 맞춘 양산을 이어가고 있다. 다만 업계에서는 외부 파운드리에 의존하는 구조가 장기적으로 변수로 작용할 수 있다는 분석도 제기된다. SK하이닉스는 HBM에 들어가는 로직 다이를 자체 생산하지 않고 외부 파운드리에 맡기고 있는데, 이 경우 설계와 공정 일정을 직접 통제하기 어렵다는 점이 부담 요인으로 꼽힌다.

특히 HBM4부터는 메모리 아래쪽에 들어가는 로직 다이의 역할이 커지면서, 성능과 전력 효율에 미치는 영향도 함께 확대되는 흐름이다. 이 때문에 설계와 생산을 함께 조율할 수 있는 기업과 그렇지 않은 기업 사이에서 차이가 벌어질 수 있다는 시각이 나온다.

업계 관계자는 “HBM4 경쟁은 통합 설계,안정적 양산과 공급 신뢰 등이 주요 핵심 변수가 될 것”이라며 “주요 업계 간 승부는 초기 납품이 아니라 양산 안정화 이후에 갈릴 가능성이 크다”고 말했다. HBM4 이후 시장은 단순한 메모리 경쟁을 넘어 구조적 경쟁으로 전환되고 있다.

패키징, 공정 통합, 장비 생태계, 플랫폼 검증이 맞물린 환경에서 제한된 자원을 어떻게 관리하고 병목을 통과시키느냐가 기업 경쟁력의 핵심으로 자리 잡고 있다. AI 메모리 ‘초격차’ 역시 이 복합 구조를 얼마나 정교하게 운영하느냐에 달려 있다는 평가다.

사진 확대

[박소라 기자]