▶데이터 180ZB 폭증 시대… 반도체 산업 대전환 요구 CPU 같은 중앙처리장치가 아닌 메모리 반도체가 직접 생각하고 연산하는 시대가 열렸다. 폭증하는 데이터 처리를 위해 반도체 업계가 메모리에 직접 인공지능(AI) 연산장치를 이식하는 도전에 나선 것이다.

코로나19 팬데믹이 낳은 비대면 사회는 메타버스, 인공지능, 자율주행과 같은 데이터 중심의 시대를 앞당겼다. 전 세계에서 1년간 생산되는 데이터 양은 지난해 기준 44ZB(제타바이트)에서 2025년까지 4배가 넘는 180ZB로 폭증할 것으로 전망된다. 1ZB는 mp3 음원으로 281조5000억 곡을 저장할 수 있는 용량이며 데이터센터 1000개를 합친 크기다.

데이터가 폭증하면서 반도체 산업에도 대전환이 요구되기 시작했다. 컴퓨터가 발명된 이래로 지금까지 프로세스는 중앙처리장치(CPU) 중심으로 이뤄졌다. 이를 처음 고안한 헝가리 과학자의 이름을 따서 ‘폰 노이만’ 방식이라고 부른다. 하지만 처리해야 하는 데이터가 폭발적으로 많아지면서 메모리와 중앙처리 사이에 병목현상이 발생하는 기술적 한계에 봉착했다.

반도체 업계는 이를 극복하기 위해 메모리에 직접 AI 연산장치를 이식하는 도전에 나섰다. 국가로 비유하면 수도 중심의 중앙집권 방식에서 지방분권 형태로 진화하는 셈이다. 업계는 이 같은 기술력을 바탕으로 2022년이 폰 노이만의 시대를 넘어 차세대 반도체 시대가 열리는 원년이 될 것으로 보고 있다. 연산 속도 향상에 퀀텀점프가 일어나면서 자율주행이나 메타버스와 같은 미래 산업 대중화에 가속도가 붙게 됐다. 물론 효율성 면에서 메모리 반도체가 CPU나 GPU(그래픽처리장치)를 전면적으로 당장 대체하는 것은 쉽지 않을 것이나, 사물인터넷(loT)과 같은 비교적 데이터 교류가 단순한 분야들부터 충분히 대체 활용이 가능할 수 있다는 게 전문가들의 전망이다.

시장조사 업체 가트너에 따르면 현재 AI 반도체를 개발하는 회사는 전 세계적으로 50곳 이상이다. 또 AI를 활용한 신사업 확장으로 AI 반도체 매출은 2020년 230억달러(약 28조원)에서 2025년 700억달러(약 86조원)로 늘어날 것으로 전망된다.

▶SK, 메모리에 AI 탑재 PIM은 기존 메모리 반도체에 AI 프로세서를 탑재한 반도체다. 메모리 안에 연산 기능을 하는 프로세서가 들어 있다고 해서 ‘PIM(Processing In Memory)’으로 불린다. 메모리 내부에서 CPU의 일부 연산 처리가 가능하도록 만들었기 때문에 데이터 처리 속도가 보다 빨라질 수 있다. CPU와 메모리 간 데이터 이동이 줄어들어 에너지 효율도 늘릴 수 있다.

PIM 개발 이전에는 일반적으로 하나의 시스템에 입력된 데이터가 휘발성 메모리 D램에 임시 저장되고, D램은 프로세서의 데이터 처리 속도에 맞춰 저장한 데이터를 전송하는 방식으로 움직였다. 이후 프로세서는 전송받은 데이터를 처리하고, 결과를 출력하거나 다시 비휘발성 메모리에 전송해 저장하도록 한다. 과거에는 하나의 시스템에 메모리 반도체와 프로세서가 별도로 탑재됐다. 따라서 메모리와 프로세서 간 데이터 전송을 해야 했는데, 그 과정에서 데이터 처리 시간이 지연되고, 전력 손실이 일어났다.

이를 극복한 PIM 기술은 대규모 데이터를 처리하거나 실시간으로 데이터를 출력해야 하는 AI, 데이터센터, 고성능 컴퓨팅 등에 적용될 수 있을 것으로 전망된다. 해당 분야에서는 연산 특성에 최적화된 기술이 필요한데, PIM 기술이 이를 극복하는 데 도움이 된다.

이 기술이 처음 제안된 것은 50년 전인 1970년까지 거슬러 올라간다. 오랫동안 기술력의 한계로 ‘꿈의 기술’처럼 받아들여졌다. 오랜 기간 개념으로만 남아있던 이 기술은 국내 연구진들의 집념으로 마침내 상용화되는 데 성공했다.

SK하이닉스는 연산 기능을 갖춘 차세대 메모리 반도체 PIM을 개발했다고 최근 밝혔다. SK하이닉스는 전통적인 반도체 개념을 극복, 메모리도 연산을 할 수 있는 차세대 스마트 메모리를 꾸준히 연구했고 결국 PIM 개발에 성공했다. SK하이닉스는 PIM 개발 성과를 최근 미국 샌프란시스코에서 열리는 반도체 분야 세계 최고 권위 학회 2022 국제 고체회로 학술회의(ISSCC)에서 공유했다. 이 자리에서 SK하이닉스는 PIM이 연산과 저장을 모두 담당하는 ‘메모리 센트릭 컴퓨팅’ 시대를 열 수 있다는 전망도 제시했다.

SK하이닉스는 PIM이 적용된 첫 제품으로 ‘GDDR6-AiM’ 샘플을 개발했다. 이 샘플은 초당 16Gbps(기가비트) 속도로 데이터를 처리하는 GDDR6 메모리에 연산 기능이 더해진 제품이다. SK하이닉스는 일반 D램 대신 이 제품을 CPU·GPU와 탑재하면 특정 연산의 속도가 최대 16배까지 빨라진다고 강조했다. 상용화되면 머신러닝과 고성능 컴퓨팅, 빅데이터의 연산·저장 등에 활용될 것으로 전망된다. 특히 기존 제품 대비 에너지 소모가 80%가량 줄어들어 탄소 배출을 저감할 수 있다고 SK하이닉스는 설명했다. SK하이닉스는 최근 SK텔레콤에서 분사한 AI 반도체 기업인 사피온과 협력해나갈 예정이다.

SK그룹의 반도체 사업은 SK하이닉스를 중심으로 움직인다. 이런 체제에서 SK텔레콤이 AI 반도체 개발 업체 ‘사피온’을 새로 만들어 독립시켰다. 그룹 내 반도체 사업은 투 트랙으로 나눠진 셈이다. 이런 투 트랙 전략은 메모리 반도체 중심의 SK하이닉스가 비메모리 반도체의 일종인 AI 반도체 개발까지 전담하기 어려운 까닭에 만들어지게 됐다. 업계는 두 회사의 시너지를 기대하고 있다. AI 반도체의 연산 기능을 받쳐주려면 데이터를 빠르게 처리할 수 있는 고도의 메모리 반도체 기술이 필수다. SK하이닉스가 최근 개발한 PIM 기술이 사피온의 AI 반도체 성능을 증강시키는 데 중요한 역할을 할 것으로 기대된다.

SK하이닉스는 D램과 낸드플래시로 대변되는 메모리 반도체 사업을 영위하는 데 반해 사피온은 비메모리로 분류되는 AI 반도체 설계전문회사(팹리스)다. 팹리스는 생산시설이 없는 회사라 반도체를 제작하려면 파운드리(위탁생산)를 맡겨야 한다. 그런데 AI 반도체는 주로 12인치 웨이퍼(반도체 원판)가 필요한 반면 SK하이닉스는 8인치 웨이퍼만 파운드리를 하고 있다.

SK하이닉스가 있음에도 불구하고 사피온이란 새로운 반도체 계열사를 설립한 이유다. 메모리 반도체에 특화돼 있는 SK하이닉스의 사업구조나 설계 노하우, 생산 공정을 단번에 비메모리로 바꿀 수 없는 만큼 사피온을 신설해 그룹의 반도체 사업을 투 트랙으로 전개하게 됐다.

▶삼성, 스마트폰 AI 성능 2배 끌어올려 SK하이닉스가 적극적인 미래 반도체 PIM 개발 드라이브에 나서자 또 다른 반도체 산업의 축인 삼성전자도 잰걸음을 하고 있다. 원래 PIM 분야의 선두주자는 삼성이다. 삼성전자는 PIM 기술을 서버나 데이터센터의 AI 가속기에 탑재되는 고대역폭 메모리 반도체인 ‘HBM2(High Bandwidth Memory)’에 이식해 ‘HBM-PIM’ 제품을 만드는 데 성공했다. AI 가속기란 AI를 실행하기 위한 전용 하드웨어를 의미한다. 미국 시장조사기관 트랙티카에 따르면 2017년 16억달러였던 AI 가속기 시장 규모는 2025년 663억달러에 이를 것으로 전망된다.

삼성전자에 따르면 HBM-PIM을 탑재할 경우 기존 HBM2를 이용한 시스템 대비 성능은 약 2.5배 높아지고 시스템 에너지는 60% 이상 감소한다. 신제품을 설치하기 위해 별도로 기존 설비를 교체하거나 업그레이드할 필요도 없기 때문에 양산이 시작되면 빠르게 시장을 대체할 것으로 기대된다.

김남승 삼성전자 메모리사업부 DRAM 개발실 전무는 “HBM-PIM은 업계 최초의 인공지능 분야 맞춤형 메모리 솔루션으로 고객사 AI 가속기에 탑재돼 평가받고 있어 상업적 성공 가능성이 보인다”며 “향후 표준화 과정을 거쳐 차세대 슈퍼컴퓨터와 온디바이스 AI용 모바일 메모리 및 데이터센터용 D램 모듈로 확장할 예정”이라고 밝혔다.

실제로 삼성전자는 고가 시장인 고대역폭 메모리를 넘어서 D램과 모바일 분야에까지 PIM 기술 도입을 확대하고 있다. PIM이 모바일 D램과 결합하면 클라우드 서버를 거치지 않고 휴대폰이 독자적으로 정보를 처리하는 온 디바이스 AI 성능이 크게 향상된다. 시범적용해 본 결과 음성 인식이나 번역, 챗봇 등 프로그램을 수행할 때 2배 이상 성능이 향상되고 60% 넘게 에너지가 감소되는 것으로 확인됐다.

삼성전자는 반도체 분야의 세계 최고 권위 학회인 ISSCC에서 논문을 공개한 뒤 국제표준협회와 함께 표준화 작업을 진행 중이다. 이를 바탕으로 올해부터 본격적으로 SAP 등 고객사들과 협업해 시장 규모가 확보되면 바로 양산에 나선다는 목표다.

▶마이크론·구글·페이스북… 글로벌 기업들도 개발 경쟁 PIM의 시대가 도래함에 따라 국내뿐 아니라 글로벌 기업들도 기술 개발과 활용 방안 마련에 박차를 가하고 있다. 세계 D램 시장점유율 3위인 미국 마이크론은 삼성전자와 SK하이닉스에 이어 PIM을 개발하고 있는 것으로 알려졌다. 반도체 제조사와 별개로 앞서 글로벌 빅테크 기업들도 PIM에 대해 개념적으로 접근해왔다. 구글은 2018년 논문으로 컨슈머 기기에 PIM을 도입하는 방식을 제시했고, 페이스북은 2018년 논문을 통해 D램에서 연산을 수행하는 형태의 딥러닝 알고리즘을 제안한 바 있다.

반도체 업계 리더들도 PIM을 미래 반도체의 핵심으로 규정하고 있다. 이석희 하이닉스 사장은 지난해 세계반도체연합 콘퍼런스에서 “반도체, 메모리가 분리된 ‘폰 노이만’ 구조에서는 메모리 전력 소비량이 전체 63%를 차지할 만큼 메모리의 전력 효율성 해결이 과제로 떠오르고 있다”면서 “‘메모리 센트릭’ 시대가 다가오는 가운데, 각종 연산 장치와 메모리가 융합된 새로운 장치로 효율성 문제에 대응해야 한다”고 주장했다.

그는 포스트 폰 노이만 아키텍처의 구체적 예시로 ‘컴퓨팅 인 메모리(CIM)’를 들었다. 그는 CPU와 메모리를 한 개 모듈로 묶는 PIM을 시작으로 CPU와 메모리가 아예 한 개의 큰 판 안에서 융합적으로 움직이는 CIM의 시대가 올 것이라고 말했다. 이 사장은 “앞으로 CPU와 메모리 융합 움직임이 가파르게 진행될 것”이라고 강조했다.

이 사장은 이를 위해 앞으로 반도체 관련 회사들 간 협력이 상당히 중요해질 것이라고 설명했다. 반도체 기능 개선에만 집중한다면 칩 메이커와 협력사 간 수직적인 관계 형성이 효율적이지만, 미래 반도체 시대에서는 상호 협력을 기반으로 한 합종연횡이 필수적이라는 설명이다.

[오찬종 매일경제 산업부 기자]

[본 기사는 매경LUXMEN 제139호 (2022년 4월) 기사입니다]
[ⓒ 매일경제 & mk.co.kr, 무단전재 및 재배포 금지]