2010년 전 세계적으로 인터넷에 50억 개의 다양한 전자기기가 연결됐는데, 현재는 500억 개로 10배가 증가했다. 이대로 나아가면 2025년에는 700억 개를 돌파할 것으로 추산하고 있다. 현재 500억 개가 넘는 각종 전자기기가 44ZB(제타바이트)라는 어마어마한 양의 데이터를 생산하고 있다. 인터넷이 도입된 초기에는 인간의 두뇌가 생산된 데이터를 처리했지만, 이제는 전 인류가 모두 합심한다고 해도 인간이 이 엄청난 데이터를 처리하는 건 불가능하다. 인간을 대신해서 데이터를 처리하는 솔루션이 필요한데 그것이 바로 인공지능과 인공지능 반도체다.
딥엑스는 국내에 몇 되지 않는, AI 반도체를 전문으로 설계하는 업체다. 인공지능 연산을 고속으로 처리하는 시스템 반도체의 일종인 인공신경망처리 반도체(NPU)와 NPU가 적용되어 각종 에지 디바이스 및 추론형 AI 서버 안에 들어가는 솔루션인 SoC를 제조한다.
김녹원 딥엑스 대표
일반적으로 반도체라고 하면 국내의 메모리 반도체가 익숙한 환경에서 AI 반도체(혹은 NPU)는 다소 생소한 게 사실이다. 그러나 이미 인공지능 기술은 다양한 분야에서 활용되고 있다. 번호판 인식, 음성 인식, 번역, 자율주행 등 우리가 모르는 사이 인공지능은 이미 우리의 삶에 들어와 있다. 인공지능 서비스를 구동시켜 주는 AI 반도체는 인공 신경망(Neural Network) 연산을 고속으로 처리하는 시스템 반도체의 일종이다.
AI 반도체는 기술의 발전과 데이터의 급증으로 필요한 분야로 받아들여진다. 온디바이스(On-Device), IoT 디바이스(IoT Device), 에지 디바이스(Edge Device) 등 배터리로 작동되는 전자기기에 AI 반도체가 필요한 이유는 CPU, GPU를 활용하면 여러 가지 문제를 일으키기 때문이다. 첫 번째, 에너지를 많이 소모하고 두 번째, AI 연산처리 성능이 떨어지면서 세 번째, 배터리 수명이 짧아지고 마지막으로 과열 문제가 있다.
CPU, GPU로 발생하는 문제를 해결하고 나아가 인공지능 시대를 앞당기기 위해서는 AI 반도체인 NPU가 절대적으로 필요하다. 2020년 옴디아(Omdia)에서 발표한 자료에 따르면, 글로벌 NPU 시장은 2019년 110억달러에서 2025년에 710억달러 수준까지 성장할 것으로 예상한다. 그중 알고리즘을 학습시키는 NPU 시장은 40억달러, 데이터센터 내 추론형 NPU 시장은 150억달러, 말단 기기에서 작동하는 에지형 NPU 시장은 520억달러 규모일 것으로 전망된다.
딥엑스의 발자취
딥엑스는 현재 에지형 NPU 시장을 공략하고 있으며 데이터센터 내 추론형 NPU까지 진출할 계획을 세우고 있다. 창립자 김녹원 대표는 애플(Apple), 브로드컴(Broadcom), IBM, 시스코(Cisco Systems) 등 다국적 기업에서 AI 반도체를 연구한 전문가로 2018년 딥엑스를 설립했다. 김 대표는 “IBM, 시스코, 애플 등을 거치며 열심히 일했다. 애플 제품에 탑재된 프로세서의 개발에도 참여하는 등 반도체의 기술 혁신에 한몫했다고 자부한다”라며 “이제는 스스로 독자적인 기술 혁신을 주도하고자 2018년 2월, 딥엑스를 설립했다”라고 말했다.
국내 최대 원천기술로 세계 시장 노크
수많은 데이터를 학습하고 이를 단시간에 받아들이고 처리하기 위해서는 저전력, 고성능, 고효율의 특별한 프로세서가 필요한데 이것이 AI 반도체다. CPU가 어떤 명령어든 처리해낼 수 있는 중앙처리장치에 주목했다면 NPU는 그 명령어들을 동시다발적인 행렬 연산으로 여러 개의 명령어를 실시간으로 처리할 수 있는 기술이다. 또한 축적된 데이터를 기반으로 스스로 학습하여 최적의 값을 도출해내기도 한다. 결국 NPU는 사람의 뇌처럼 데이터들을 입력하면 스스로 학습하고 연산하는 딥러닝에 최적화된 기술로 인공지능 응용에 최적화된 반도체다.
딥엑스
딥엑스는 AI 반도체 설계의 특수성으로 현재 다수의 국책과제를 주관기관으로 수행하며 기술력을 인정받고 있다. 추론의 정확성 향상과 함께 연산 복잡도와 메모리 데이터 요구량이 빠르게 증가하는 신경망의 발전으로 AI 반도체의 필요성이 대두되고 있다. 딥엑스는 이렇게 곳곳에 존재하는 유비쿼터스 AI를 구현하기 위해 탄생한 신생 기업이다. 동사는 국내 최대의 AI 반도체 원천기술의 특허를 보유하고 있다(2022년 9월 기준 121건 출원, 등록 14건).
NPU 기술은 최신 AI 알고리즘 연산 지원, GPU 수준의 AI 정확도, 실효 성능 효율 부문에서 세계 최고 수준의 기술을 보유하고 있다. 딥엑스의 NPU는 객체 인식과 개체 분할 알고리즘(YOKOv7, PIDNet) 등 최첨단 AI 알고리즘 연산 처리를 지원한다. 글로벌 NPU 개발사가 공통으로 공개하는 딥러닝 모델 ‘Resnet-50’ 실효 AI 추론 연산 성능(FPS/TOPS)에서 글로벌 에지 NPU 경쟁 기술과 비교해 최상위에 자리할 만큼 기술력을 인정받았다.
전 세계 AI 반도체 시장 전망
국내 대부분의 CPU와 GPU 기술이 외산 기술에 종속되어 천문학적인 사용료를 지불하고 있는 상황에 딥엑스와 같은 기업이 인공지능 프로세서 기술에서 국내 산업의 기술 독립을 목표로 하고 있다는 점은 고무적이다. 딥엑스는 이를 위해 국내와 미국, 중국 등 다양한 국가에 NPU 구조 설계, NPU용 메모리 제어 기술, AI 애플리케이션 기술, 시스템온칩(SoC) 등 기술 분야를 나눠 특허 포트폴리오를 구축하는 전략을 펼치고 있다.
김녹원 대표는 “대한민국에 뿌리내릴 수 있는 최첨단 시스템 반도체의 원천기술을 개발하는 것이 딥엑스의 지향점”이라며 “퀄컴의 CDMA(Code Division Multiple Access, 코드 분할 다중 접속) 기술, ARM의 CPU 및 관련 IP 등이 대표적인 사례로 볼 수 있다”라고 설명했다. 딥엑스의 혁신은 현재 인공지능 연산처리에 사용되는 엔비디아의 GPU를 자사의 NPU가 능가한다는 것이다. 엔비디아의 GPU는 인공지능 연산처리에 300W이상 에너지를 소모하고 가격은 1500~30000달러 수준이다. 딥엑스 NPU는 GPU와 거의 동일한 성능을 2~5W의 에너지와 비용은 100달러 이하로 처리할 수 있다.
김녹원 대표는 “일례로 자율주행차에 사용되는 최신 객체인식 알고리즘(YOLO v7)을 기준으로 보면 300W를 소모하는 엔비디아 V100(56TOPS)보다 딥엑스의 DX-M1(23TOPS)이 5W만 소모하며 더 많은 프레임을 더 높은 정확도로 처리하는 결과를 얻었다”며 “딥엑스의 기술혁신은 이제 현실이 되었으며 딥엑스는 초연결 사회로 나아가기 위해 더 높은 기술 진보를 이끌어가고 있다”고 말했다.
김 대표는 이에 대해 “딥엑스의 NPU는 AI 반도체를 설계하는 글로벌 팹리스 경쟁사들과 비교해서 압도적인 강점을 갖고 있다”라며 “세계 최고의 실질 연산 처리량(FPS/TOPS), 이론의 한계를 넘어서는 인공지능 정확도, 세계 최고 수준의 연산 처리 전성비(TOPS/W), GPU 대비 25배, 타사 대비 5배에 달하는 DRAM 접근 최소화 기술, 고객사의 알고리즘을 딥엑스 NPU에서 바로 구동할 수 있는 자동화된 소프트웨어 프레임워크 체계다”라고 말했다.
딥엑스
자율주행 등 다양한 확장 가능성
딥엑스는 창업 이전부터 지금까지 전 세계 700여 개 글로벌 고객사와 소통하고, 이 중 100개 기업은 딥엑스의 사업과 직접적으로 연결되는 분야로 제품의 상용화를 논의하는 수준에 있다. 현재 스마트센서, AMR, ICT 인프라, 자동차 부품, 센서 모듈, 공장 자동화, 완성차, AI 서버 등 20여 개의 글로벌 기업들에 관심을 받으며 성공적으로 PoC(검증 단계)를 진행하고 있다.
2022년 말부터 순차적으로 출시할 계획인 딥엑스의 DX 시리즈 4종은 각기 다른 SOC로 여러 잠재고객사의 수요를 반영하여 개발되었다. 2.4, 6.4TOPS의 성능을 가진 DX-L1, L2 제품은 스마트 카메라 모듈, 이미지 센서, AI CCTV 등 비교적 컴퓨팅 파워가 많이 필요 없는 저가 시장을 목표로 상용화할 계획이다. 이어 23TOPS의 성능을 가진 DX-M1 제품이 개발되어 머신비전, 고사양 보안카메라, 서비스 로봇, AR·VR, 자율주행차 등에 적용될 전망이다. 이는 22POPS(Peta Operation per Second)의 DX-H1 제품이 이어서 출시되어 AI 고성능 컴퓨팅, 추론형 AI 서버 등에 적용될 계획이다.
독일 뮌헨 BMW 본사 기술진에게 딥엑스의 기술을 설명하는 김녹원 대표.
딥엑스의 초기 NPU 매출은 스마트 카메라 모듈이 주력이 될 전망이다. 공항, 도로, 병원, 산업단지 등에 객체 인식, 소리 감지, 얼굴 인식, 화질 개선 등의 최신 인공지능 알고리즘을 적용한 스마트 카메라를 활용해 스마트 시티를 위한 안전관리 시스템에 NPU의 필요성이 증가하고 있기 때문이다.
예를 들어 유럽에서는 내년부터 완성차의 경우 24시간 동안 내부를 감시하는 것이 법으로 재정되었는데, 그러한 솔루션 중 하나가 스마트 카메라이다. 차 안에 어린아이나 애완동물이 홀로 타고 있어 발생할 수 있는 사고를 예방하기 위해 위험 시 알람을 줄 수 있는 저전력, 고성능의 카메라 시스템이 필요한 것이다. 이렇듯 동사의 NPU는 스마트 카메라 모듈 시장에서 가장 먼저 매출이 발생하며 초기 성장을 이끌 전망이다.
스마트 카메라 시장 전망
스마트 카메라 모듈 다음으로 가까운 건 스마트 가전이다. 특히 로봇 청소기, 서빙 로봇 등 카메라를 통해 입력된 정보를 빠르고 정확하게 처리해야 하는 스마트 가전 분야에서 NPU의 필요성이 높다.
딥엑스는 최근 광주시가 추진하는 ‘AI 가전사업 육성을 위한 상용화 지원플랫폼 구축사업’에 AI 반도체·보드 개발 지원업체로 최종 선정되어 400여 개의 가전업체에 시제품을 제작·지원할 계획이다. AIoT(AI of Things)의 성장과 함께 스마트 가전 시장도 2025년까지 1억 대 이상의 시장이 개화돼AI 기반의 스마트 가전 수요가 성장할 것으로 전망된다.
김녹원 대표는 “IT 강국인 우리나라가 지금까지 CPU 및 GPU 분야에서 천문학적인 로열티를 지불해왔는데, 새롭게 펼쳐질 AI 반도체는 우리나라의 기술 독립과 독자적인 경쟁력을 갖추는 것이 급선무”라며 “국내에서 점점 고조되는 시스템 반도체와 지능형 반도체에 대한 열기를 기반으로 한국 첨단 기술 스타트업으로서 중국과 미국의 스타트업을 능가하여 새로운 인공지능 기술 시대를 앞당길 수 있도록 국가와 사회에 기여하고 싶다”라고 포부를 밝혔다.
[본 기사는 매경LUXMEN 제146호 (2022년 11월) 기사입니다]
[ⓒ 매일경제 & mk.co.kr, 무단전재 및 재배포 금지]
![[김주영 칼럼] K명품의 탄생](http://file.mk.co.kr/meet/2023/09/image_psthumb_2023_730146_1695602430.jpg)
![[김유태 기자의 ‘영화와 소설 사이’] 천카이거 〈패왕별희〉vs 릴리안 리 〈사랑이여 안녕〉열한 번째 손가락과 아홉 개의 손가락](http://file.mk.co.kr/meet/2023/09/image_psthumb_2023_720124_1695272158.jpg)
![[장은수의 인문학 산책] 원격근무는 우리를 행복하게 할까](http://file.mk.co.kr/meet/2023/09/image_psthumb_2023_716068_1695184201.jpg)
