2013년 12월 27일, 박성욱 SK하이닉스 사장은 어둠이 걷히지 않은 이른 시간 집을 나섰다. 늘 같은 일상이다. 새벽 5시 40분, 승용차에 뒷좌석에 몸을 실었다. 모든 임원진이 정위치하는 시간이 오전 7시. SK하이닉스의 근무 시계는 이때부터 돌아간다. 분당 정자동 집에서 SK하이닉스 본사가 있는 경기도 이천까지는 대략 50km. 새벽 시간엔 45분 정도 걸린다. 캄캄할 때 출발한 차가 고속도로를 질주한다.

도착 10분 전쯤 영동고속도로상에서 동쪽 약간 왼쪽 방향으로 SK하이닉스 이천 캠퍼스가 모습을 드러낸다. 거대한 공장 굴뚝에서 뿜어져 나오는 수증기가 어두운 밤하늘을 가른다. 그때쯤이면 졸음기가 가시고 새로운 하루를 시작한다는 설렘에 가슴이 뛴다. 이천 톨게이트를 빠져나와 좌측으로 두 번 돌면 회사다. 15m 높이에 폭이 25m나 되는 은색 빛깔의 아치형 정문. 행복 날개를 상징하는 이곳을 통과하면 바로 앞에 나지막한 3층짜리 붉은 벽돌 건물이 있다. 그게 경영지원 본관이고 사장실은 이곳 3층에 위치한다.

사진 확대

박 사장이 이날 조간신문을 펼쳤을 때는 급한 일을 대강 마무리한 오전 8시 30분경. 눈이 부실 정도로 강렬한 햇볕이 내리쬐기 시작했다. 30만 평 공장 전체를 감쌌던 옅은 안개는 마치 담배 연기처럼 허공으로 흩어졌다. 영하 10도의 한파라고는 믿기지 않는 화창한 겨울 날씨였다.

이날 신문엔 그가 SK하이닉스 사령탑을 맡은 첫해 마지막 이벤트인 신제품 개발에 관련된 기사가 실렸다. 본인의 이름을 걸고 하루 전 출입 기자들에게 돌린 보도자료. 매일경제신문 14면 우측 상단에 3단 크기로 활자화됐다. 종합 면이 아닌 기업 소식을 알리는 안쪽 지면이니 신문사 편집진들이 중요성은 높지 않다고 판단한 게 분명하다. 그나마 매일경제가 가장 크게 기사화했다. 일부 언론은 보도조차 안 했다. 하기야 반도체 전문가들도 그 기사가 장차 어느 정도 파장을 일으킬지에 대해선 가늠조차 못했으니…. 진가를 알아채기까지는 그로부터 10년을 더 기다려야 했다.

용어도 낯선 고대역폭메모리(HBM; High Bandwidth Memory) 개발이었다. 기사의 제목은 ‘SK하이닉스 4배 빠른 D램 개발’이었고 그 밑에 적힌 작은 글씨의 부제는 ‘1초에 DVD급 영화 30편 내려받기 가능’이었다. 제목에 HBM이란 말조차 없었다. 기사는 이렇게 시작된다.

“올해 창사 이래 최고 실적을 달성한 SK하이닉스가 업계 최초로 신기술(TSV; 실리콘관통전극)을 적용한 차세대 초고속 메모리 제품을 개발하는 데 성공했다. 이 제품의 속도는 현존 최고 제품(GDDR5)보다 4배 빠르고, 전력 소비는 40% 이상 낮은 것이 특징으로 차세대 먹거리가 될 수 있는 D램 메모리로 꼽힌다.”

일반 독자들의 눈에는 그저 성능이 좀 개선된 메모리 칩이 나왔구나, 정도였을 것이다. 박 사장도 이공계 출신다운 솔직함으로 “그게 임기 첫해여서인지 기억이 잘 나지 않는다”라고 당시 상황을 전한다.

“HBM은 SK하이닉스가 내놓은 여러 제품 중의 하나였던 거죠. 지금 와서 보니 옥동자지만 당시에는 이렇게 대히트 칠 줄은 전혀 예상하지 못했습니다. 물론 개발 담당자들 머리에는 ‘뭔가 의미 있는 작품을 만들었구나’라는 생각이 있었을지 모르겠습니다만 그냥 차세대 초고속 메모리 반도체였다는 인식이 지배적이었다고 보는 게 맞을 겁니다.”

오히려 이 자료의 핵심은 TSV(Through Silicon Via)였다. 이게 신기술이었다. 자료에도 그렇게 썼다. ‘업계 최초’라고. 그래서 SK하이닉스의 HBM 신화를 설명하려면 TSV 스토리부터 풀어가야 한다.

TSV는 가로 11mm, 세로 13mm 크기 칩에 미세한 구멍을 어마어마하게 많이 뚫는 기술이다. 전문적인 용어로는 그 구멍을 I/O(Input/Output)라고 하는데 전기가 들어왔다 나갔다 하는 통로인 셈이다. 그 통로를 어느 정도 많이 만드느냐 하면 과거의 메모리 반도체 DDR D램은 I/O가 8~32개인데 TSV는 무려 1024개나 된다. 지금 새롭게 나오는 6세대 HBM의 경우는 2048개. 비교가 안 되는 수치다.

이 TSV를 실리콘관통전극이라고 부른다. 칩의 재질이 ‘실리콘’이고 거기에 구멍을 뚫으니 ‘관통’이고, 이 구멍으로 전기가 흐르니 ‘전극’이라고 하는 것이다. 제품을 좀 더 구체적으로 설명하면, 웨이퍼 원판에 구멍을 뚫고 거기에 전기가 흐르는 구리를 채워 넣는다. 이런 웨이퍼 원판을 갈고 다듬은 후 잘라서 칩을 만든다. 이 칩을 여러 장 쌓는데 아파트에 비유하자면 엘리베이터를 통해 각 층과 연결될 수 있듯이 구멍을 일치시켜 통로를 내는 것이다. 과거 메모리 반도체가 아파트 가장자리에 계단을 내 층간을 연결했다면 TSV는 계단 대신 여러 개의 엘리베이터를 만든다고 보면 된다.

돌이켜 보면 HBM은 메모리 반도체의 패러다임을 뒤흔든 획기적 제품이었다. 지금까지 반도체 산업을 지배하는 대원칙이 하나 있는데 그게 ‘무어의 법칙(Moore’s law)’이다. 집적회로(IC)의 트랜지스터 수가 2년마다 두 배로 증가한다는 일종의 추세적 관찰이자 미래 예측이다. 이 관찰은 페어차일드 반도체와 인텔의 공동 창업자인 고든 무어의 이름을 따서 명명된 것. 트랜지스터 수가 늘어난다는 것은 반도체 칩의 성능이 그만큼 높아진다는 것이고, 이는 다시 말해 컴퓨터의 성능이 그만큼 향상된다는 뜻이다. 어떻게 그런 게 가능하냐 하면 다름 아닌 공정의 미세화에 의해서다. 공정을 미세화한다는 것은 반도체 선폭이라고 하는 웨이퍼 위에 새겨지는 전기회로의 폭을 가늘게 하는 것이다. 선폭이 줄어들면 같은 면적에 더 많은 트랜지스터를 집적할 수 있기 때문이다. 그래서 무어의 법칙이 유효하려면 반도체 선폭을 줄여야 한다. 선폭은 보통 나노미터(nm) 단위로 표시하기 때문에 이 공정을 나노공정이라고 한다.

그동안의 반도체 회사들은 이른바 나노공정 경쟁을 해왔다. 지금도 마찬가지다. 그 선두에 섰던 회사가 다름 아닌 삼성전자. SK하이닉스는 이 나노공정에서 늘 삼성을 뒤쫓아 가는 2인자였다. 그러나 문제는 이 선폭을 무한정 줄일 수가 없다는 것. 그게 무어의 법칙의 한계이며 모든 반도체 전문가들이 알고 있는 사실. 반도체 업계 관계자들은 통상 D램의 경우 25nm부터 한계가 올 것이라고 예상했다. 이보다 더 낮아지면 수율이 떨어진다든지, 발열이 심해져 전기를 많이 먹는다든지 하는 부작용이 나타나기 때문이다. 기술적으로도 그렇게 가늘게 하기 힘들다. 비용도 많이 든다. 그 한계라는 25nm가 기술의 혁신으로 10nm까지 왔으니 얼마나 대단한가를 알 수 있다.

사진 확대

그렇다면 TSV는 SK하이닉스가 독자적으로 개발한 세상에 없던 기술이냐? 그건 아니다. 모든 반도체 회사들은 무어의 법칙을 넘을 방법을 찾고 있었다. 유력한 것 중 하나가 TSV였다. 다만 모든 기술이 그렇듯이 때를 기다려야 했다. 아무리 훌륭한 제품이라도 살 사람이 있어야 팔리는 법. 그리고 제품 원가가 높아 손해를 본다면야 굳이 만들 필요가 있느냐는 것. TSV가 그러했다.

이 TSV 기술은 마치 운명처럼 하이닉스에 다가왔다. 2008년 겨울이었다. 아직 SK가 하이닉스를 인수하기 전이다. AMD의 핵심 고위 엔지니어가 하이닉스를 방문한다. 지금은 회사를 그만둔 브라이언 블랙이라는 시니어 펠로였다. AMD가 어떤 회사인가? 1969년 미국의 대표적 실리콘밸리 기업으로 CPU(Central Processing Unit; 중앙처리장치)·GPU(Graphic Processor Unit; 그래픽처리장치)·AI 칩 등을 만드는 반도체 설계 회사(팹리스). 지난 3월 한국을 방문해 삼성전자, 네이버 등과 협력 방안을 논의한 리사 수가 이 회사의 최고경영자(CEO)로 엔비디아의 젠슨 황 CEO와 5촌지간이기도 하다. 세계 반도체 업계의 위상을 보면 당시 하이닉스로서는 귀한 손님이었다.

그가 하이닉스를 찾아온 이유는 사업 제안. 그게 다름 아닌 HBM이었다. 박성욱 사장이 당시 연구소장을 맡고 있을 때였다. 브라이언 블랙은 박 소장에게 “AMD는 컴퓨팅 시장을 혁신적으로 바꿀 신개념 고성능 GPU를 만들고 싶다”라며 “하이닉스가 연구 중인 TSV 기술로 새로운 걸 해보면 어떻겠느냐”라고 제안했다. 그리고 하이닉스가 그래픽 TSV 제품을 개발하면 이를 AMD가 쓸 테니 같이 시장을 개척해 보자는 제안이었다.

하이닉스는 이 제안을 수용한다. 이 프로젝트는 HBM 제품을 만드는 것이었지만 사실상은 TSV 기술 개발 프로젝트라고 하는 게 더 적합한 표현일 것이다. 2008년 당시에는 HBM이란 말도 나오지 않았으며 단지 ‘TSV 기술을 활용한 신개념 고성능 GPU’였다. 이 상황에 대해 이인숙 씨 등이 공동 집필한 SK하이닉스의 언더도그 스토리 <슈퍼 모멘텀>은 이렇게 설명하고 있다.

“HBM은 ‘언더도그 동맹’의 산물이다. CPU로는 거인 인텔에 치이고, GPU로는 엔비디아에 밀리던 AMD는 항상 승리에 배가 고팠다. 만년 2등 하이닉스는 늘 생존을 위해 분투하면서도 삼성전자를 넘어서기를 열망했다”라고.

TSV 프로젝트 초기 담당 임원은 “TSV 기술이 향후 돌파구가 될 수 있다는 건 내부에서도 조금씩 인지하고 있었다”라면서 “그러던 차에 AMD가 찾아와서 그 믿음을 강화해 준 것”이라고 설명한다.

“AMD의 제안을 받고 하이닉스의 영업·설계·패키징 담당자 셋이 ‘TSV로 한번 일을 내보자, 사업으로 만들어 보자’고 뜻을 모았지요. 하이닉스가 TSV 기술로 적층한 고사양 메모리를 만들어 낸다면 당장은 AMD의 게임용 그래픽카드 GPU에 쓰이겠지만 향후에는 고성능 슈퍼컴퓨팅에도 필요할 거라는 데까지 생각이 미쳤습니다.”

사실 HBM은 TSV 기술로 상용화할 수 있는 제품 유형 중의 하나라고 보는 게 정확하다. 어떤 제품이든 TSV를 사용하면 기존의 D램보다는 비용이 족히 4배는 더 든다고 봐야 한다. 따라서 이 신제품으로 돈을 벌기보다는 미래 기술을 준비한다는 관점에서 접근한 것이었다. 하이닉스는 이듬해인 2009년 초 내부적으로 TSV 기술에 관해 집단 토론회를 한다. TSV 기술로 신제품을 만들 것이냐, 아니냐를 결정하기 위한 난상토론. 만약 여기서 노(No)를 했다면 아마도 HBM은 다른 반도체 회사가 만들었을 것이다. 최종 결론에 이른 건 11월. AMD의 제안이 온 지 1년 정도 지나서였다. TSV 기술로 메인 메모리, 모바일, 그래픽, 고성능 컴퓨팅용 제품을 만들어 보자는 전사적 로드맵이 완성됐고 2010년 연구소에 TSV팀이 꾸려진다.

박성욱 사장이 HBM에 전사적 역량을 쏟아부은 데는 사실 비슷한 시기 마이크론에서 나온 HMC(Hybrid Memory Cube)라는 제품이 영향을 크게 미쳤다.

“D램 메모리는 사실 천수답 사업입니다. 그 당시 CPU를 만드는 인텔이 모든 것을 좌지우지하고 스펙을 결정했습니다. 나머지는 자기에게 다 맞추라는 거였죠. 그렇게 인텔에 끌려가던 입장에서 해방되는 새로운 메모리 시장의 돌파구는 없을까 고민하고 있었습니다. 그때 나온 것이 HMC입니다. 이게 나왔을 때 저는 ‘아! 메모리 회사도 이런 걸 할 수 있구나’라는 충격을 받았습니다. 사실 이게 HBM하고 구조는 같습니다. TSV를 사용합니다. 그런데 HMC는 읽는 메모리입니다. CPU가 컨트롤하지 않고 CPU를 메모리로 가져온 것이지요. 소위 PIM(Processing in Memory; 메모리 내 연산)과도 비슷합니다. ‘PIM+HBM’이라고 보면 됩니다. 너무 앞선 제품이었습니다. 결국 시장에서 사라지고 말았지요.”

그러면서 SK하이닉스는 HBM의 아버지라 불리는 카이스트의 김정호 교수와 인연을 맺게 된다. 박 사장은 “그 당시 하이닉스의 산학과제를 유일하게 수행해 준 학자가 김정호 교수였고, 그때 과제가 TSV였다”라면서 “우리는 김 교수와 함께 연구도 하고 시뮬레이션도 했다”라고 말한다.

김 교수는 “HMC는 제가 봤을 때 너무 복잡도가 높다. 너무 앞서나간 제품이었다. 반면에 HBM은 ‘이건 되겠는데?’라고 생각했다”라면서 “단순한 발상이 오히려 제품개발과 상업적 성공으로 이어졌다”라고 설명했다. 그는 “박사 학위를 마친 후 삼성전자에 입사해서 삼성전자 D램 설계팀에 있었는데, 무어의 법칙이 거의 끝나가고 언젠가 한계가 올 것이라는 것을 알게 됐다”라며 “그래서 햄버거나 홍콩의 아파트를 보면서 D램을 쌓는 방법을 생각해 보게 됐다”라고 회고했다. 삼성전자를 나와 2000년대 초반부터 대학에서 TSV에 대한 연구를 시작했던 그에게 하이닉스가 TSV 기술을 연구할 것을 제안했다. 하이닉스와 김 교수와의 컬래버가 이뤄지는 순간이었다.

AMD가 사업을 제안해 원팀을 이루긴 했지만 반드시 협력관계인 것만은 아니었다. 서로의 이익이 첨예하게 부닥치는 부분에 있어서는 경쟁이 불가피했다. 예를 들어 HBM 패키지를 둘러싼 소위 ‘땅따먹기 협상’이 그것. 2010년 6월 하이닉스의 선행 패키지팀 소속의 한 선임연구원이 미국 캘리포니아 산타클라라의 AMD 본사를 방문한다. 출장 목적은 HBM의 패키지 구조를 짜는 것이었다. AMD는 GPU를 하고 하이닉스는 HBM을 하는데 이게 결국에는 기판에 해당하는 인터포저에 올라간다. 그 인터포저의 크기는 정해져 있었다. 패키지 구조는 GPU가 한가운데 위치하고 오른쪽 왼쪽으로 각각 2개씩 4단짜리 HBM을 붙이는 것이었다. 문제는 GPU와 HBM의 간격. 이 간격에 따라 GPU와 HBM의 크기가 결정되고 이는 두 기업의 수익성과 직결된다. 간격이 넓어지면 HBM 사이즈에 여유가 생긴다. 그럼 하이닉스에 유리해진다. 양사 엔지니어링 간의 피 말리는 협상 끝에 200㎛로 타협했다. 이때 탄생한 패키지 설계가 HBM의 표준이 되었고 지금의 GPU, HBM, 인터포저도 이 배치를 크게 벗어나지 않는다.

(다음 회차에서 이어집니다.)

[손현덕 주필]