챗GPT를 필두로 다양한 인공지능 기술이 세상에 등장하고 있다. AI가 발전할수록 필요한 존재가 바로 AI 반도체 기술이다. AI 반도체는 인공지능 서비스를 구현하기 위해 요구되는 데이터 및 알고리즘을 효율적으로 처리할 수 있는 반도체로 정의할 수 있다. CPU와 같은 기존 반도체는 데이터를 순차적으로 처리하는 반면, AI 반도체는 데이터를 동시에 병렬로 연산함으로써 동시다발적인 학습과 추론을 할 수 있다.
황금알을 낳는 거위로 인식되고 있는 이 인공지능 기반 기술 분야에 국내외 빅테크 및 스타트업들이 전속력으로 질주하고 있다. 아마존(Amazon)은 AI 가속기 ‘인퍼런시아(Inferentia)’를 자체 개발하여 사용 중이며, 구글(Google)은 클라우드 서비스를 위해 TPU5를 자체 개발해 활용 중이다. 뿐만 아니라 세리브라 시스템(Cerebras Systems·미국), 그래프코어(Graphcore·영국) 등 여러 글로벌 팹리스 스타트업도 AI 반도체를 개발 중이다. 이에 대항하는 토종 기업이 바로 SK텔레콤에서 독립한 사피온(SAPEON)이다.
2021년 초 SK스퀘어, SK하이닉스, SK텔레콤 등 3사는 올 초 ‘SK ICT 연합’ 출범을 선언하고 반도체, 5G, AI 등 ICT 영역에서 투자 및 공동사업을 추진하기로 했다. 이들의 시너지 첫 결과물은 800억원을 들여 미국에 설립한 AI 반도체 설계 전문업체(팹리스) 사피온이다. SKT는 AI 반도체 사업 성장 및 해외 진출을 가속화하기 위해 사피온 분사를 결정하고, 2021년 말에 미국 법인(SAPEON Inc.)을, 2022년 초에 한국 법인(SAPEON Korea) 설립을 완료했다.
사피온은 인류를 뜻하는 ‘SAPiens (사피엔스)’와 영겁의 시간을 뜻하는 ‘aEON(이온)’의 합성어로, 인류에게 AI 반도체 기반 인공지능 혁신의 혜택을 지속 제공하겠다는 의지를 담고 있다. 분사 당시 사피온의 최대 주주는 SK텔레콤(62.5%)이며 SK하이닉스(25%)와 SK스퀘어(12.5%)도 주주로 이름을 올렸다.
1971년생인 류수정 사피온 대표는 미국 조지아 공대에서 병렬프로세서 구조 연구를 진행하고 2004년 삼성종합기술원에서 커리어의 첫발을 뗐다. 2015년 모바일 그래픽처리장치(GPU) 개발 담당 임원을 거쳐 2018년까지 삼성전자 S.LSI 사업부에서 GPU를 개발하는 임무를 수행했다. 삼성전자를 떠난 뒤에는 서울대 전기전자공학부에서 객원·산학교수로 뉴럴프로세서(NPU)와 메모리 연산 통합반도체(PIM) 연구를 진행해 AI 반도체 부문 전문성을 높였다. 2021년 SK텔레콤 AI 액셀러레이터(Accelerator) 담당으로 영입됐다.
여기에 김윤 전 SK텔레콤 CTO가 사피온코리아 기타비상무이사로 등재해 눈길을 끈다. 그는 SK텔레콤의 연구개발(R&D) 중심축인 룬샷 TF장을 맡았다. 류 대표와 마찬가지로 1971년생인 그는 AI 전문가로 이름을 날렸다. 그는 애플(Apple)의 AI 음성인식 소프트웨어 시리(Siri)를 개발한 인물이다. 2018년 SK텔레콤 AI리서치센터장으로 영입되고 AI센터장을 맡았다. 이후 CTO로서 T3K 조직을 이끌다 사피온 분사와 함께 자리에서 물러나 고문 역할을 수행하고 있다. AI 반도체 독립 법인 설립과 함께 이사진에 포함됐다.
류 대표와 김 이사가 외부에서 영입돼 SK텔레콤을 거쳐 간 인물들이라면 나머지 이사회 구성원 절반은 SK텔레콤 현직 인사다. 모회사인 사피온의 최대 주주 SK텔레콤 출신으로만 이사회가 100% 채워진 셈이다.
사피온코리아는 반도체 설계 및 제조업, 판매업, 연구개발업을 주로 영위한다. 전자부품·컴퓨터 및 주변 장치 제조업, 소프트웨어 개발 및 공급업을 비롯해 인공지능 서비스형 소프트웨어업, 인공지능 클라우드 컴퓨팅 서비스업도 다룬다. 본사는 경기도 성남시 분당구 판교이노밸리에 둥지를 틀었다.
SKT는 2020년 11월 AI 반도체 ‘사피온 X220’을 국내 최초로 출시했다. 2016년부터 AI 가속기 프로젝트를 기반으로 3년에 걸쳐 프로토타입 개발을 진행해왔고 이를 기반으로 데이터센터에 즉시 적용할 수 있는 상용 제품을 출시한 것이다.
사피온은 AI 반도체 원천기술인 NPU (Neural Processing Unit)를 하드웨어에서 소프트웨어까지 100% 내부 기술로 개발하여, AI 반도체 중에서도 가장 규모가 큰 데이터센터 추론 서비스 반도체 시장과 자율주행 반도체 시장 공략을 강화하고 있다. 특히 우리나라 최초로 데이터센터용 AI 반도체(X220)를 개발하고 상용화에 성공하였으며, AI 시장의 확대를 위한 상용 서비스의 영역을 점차 확장해 나가고 있다.
사피온 관계자는 “국내 타사는 상용 제품이 없거나 이제 막 시제품을 만들고 있고, 실제 응용 단계까지 가려면 시간이 필요한 상황”이라며 “이에 반해 사피온은 2017년 SKT의 AI 스피커 누구(NUGU) 서비스에 적용되기 시작해 이미 상용 제품(X220)이 나와 있어서 개발 단계와 수준이 앞서있다고 할 수 있다”라고 설명했다.
사피온 X220의 성능은 해외에서도 인정받고 있다. AI 분야의 대표적인 벤치마크(성능 테스트) 대회인 ‘엠엘퍼프(MLPerf)’에서 X220은 시장에서 가장 광범위하게 사용되고 있는 엔비디아의 데이터센터 서비스용 GPU A2칩에 비해 콤팩트 모델이 2.4배, 기업용(엔터프라이즈) 모델은 4.6배의 높은 성능을 기록해 우수성을 인정받기도 했다.
한편 사피온은 최근 AI 모델 학습을 지원하며 자동차, 보안, 미디어 등 다양한 분야에 쓰일 수 있는 신모델도 개발 중이다. 사피온 관계자는 “X220은 추론에 최적화되어 있고, 데이터센터용으로 활용할 수 있는 제품인 데 반해 올해 출시할 ‘사피온 X300’ 시리즈는 AI 모델 학습도 지원하고 데이터센터뿐 아니라 자동차, 보안, 미디어 등 다양한 분야에 쓰일 수 있도록 개발 중”이라고 밝혔다.
사피온은 일반적으로 칩(chip), 카드(card), 서버(server) 형태로 제공되며, 앞으로는 AI 반도체부터 AI 기반 다양한 소프트웨어에 이르는 통합 솔루션을 제공하는 ‘AIaaS(AI as a Service·서비스형 AI)’ 형태로 제공할 예정이다.
사피온이 다른 경쟁사에 비해 유리한 점은 무엇보다 SK 계열사들의 후방 지원이다. AI 반도체 신생 기업이 세계 시장에 진출하기 위해서는 다양한 응용처별 성과(Track Record)를 쌓는 것이 필수적이다. SK 계열사들이 사피온 활용에 적극적이고 이러한 내부 시장(Captive Market)을 활용해 다양한 분야에서 사피온이 활용되고 있다는 것은 상당한 차별화 요소라고 할 수 있다.
사피온 측은 이에 대해 “AI 반도체의 성능을 결정하는 핵심 요소가 빠른 연산을 수행하는 코어 설계와 처리할 데이터를 초고속으로 공급하는 메모리 반도체 관련 기술인 만큼 이 부분에서 사피온과 SK하이닉스의 시너지 효과가 기대된다”라고 설명했다.
이 외에도 사피온은 AI 반도체 기반 하드웨어부터 AI 알고리즘, AI 기반 서비스에 이르는 소프트웨어까지 통합 솔루션을 제공하는 전체 기술 세트(set)를 구현 중이다. 특히 SKT는 사피온의 AI 반도체를 활용할 수 있는 다양한 데이터, AI 솔루션, AI 서비스를 보유하고 있다. SKT는 AI 모델 개발에 필요한 다양한 데이터와 이러한 데이터를 학습시키기 위한 AI 모델링 기술을 확보하고 AI 반도체를 응용할 수 있는 사업(미디어, 보안, 스마트팩토리 등)과 서비스(에이닷)를 보유하고 있는 것으로 알려졌다.
사피온은 국내외 대기업들을 제휴사로 유치하고 있다. 지난해 12월 사피온 X220을 도입한 NHN 데이터센터에서 패션 특화 AI 서비스인 ‘버추얼 트라이온’을 제공하기 위한 기술 검증을 마쳤다고 밝혔다. 버추얼 트라이온 기술은 내가 고른 옷이 잘 어울리는지 이미 가지고 있는 내 사진에 가상으로 의상을 입혀보는 기술이다. 단품 옷뿐 아니라 어울릴 만한 다른 옷을 함께 조합해볼 수 있다.
사피온과 NHN 클라우드는 2020년부터 협력을 통해 GPU 대비 향상된 기술과 성능을 검증하는 성과를 얻은 바 있다. 또한 상용 서비스 운영을 위한 인프라를 확대 구축해왔고 NHN 클라우드의 AI 서비스 적용을 검토하고 있다. 이의 하나로 NHN 클라우드는 다양한 카테고리 상품 데이터를 기반으로 학습해 패션 분야에 특화된 서비스인 AI 패션 서비스(Fashion)를 제공하기 위해 기술과 성능 검증 작업을 진행했다.
NHN 클라우드는 ‘버추얼 트라이온’ 서비스 부문에서, 엔비디아 T4 GPU 대비 사피온 반도체 X220이 처리 속도 측면에서 5.1배 빠른 것으로 확인되었다고 밝혔다. 이를 통해 저비용으로 차별화된 고품질 서비스를 제공할 수 있을 것으로 기대하고 있다.
한편 사피온은 최근 GS 그룹 내 계열사 및 대보그룹 등 새로운 전략적 투자자들과 투자 클로징을 완료하고, 사피온·GS건설·GS네오텍·대보정보통신 4사가 AI 관련 다양한 분야에서 협력하기 위한 사업협력 양해각서(MOU)를 체결했다.
GS계열사 및 대보그룹은 사피온의 전략적 투자자로서 어센트에쿼티파트너스(Ascent Equity Partners)를 통해 본 투자 라운드에 참여했다. 두 그룹은 사피온 투자를 검토하면서 사피온이 성능, 전력 효율 등 측면에서 타 경쟁사 대비 독보적인 기술력을 보유하고 있으며, 상용화 경험, 미래 성장 가능성 등 사업성이 우수할 뿐만 아니라 SKT와의 공동사업 추진을 위한 협력 측면에서도 강점이 많다고 판단했다. 이번 4사의 협력은 공공분야 AI 서비스 인프라 구축을 비롯하여 미디어, IoT, 스마트팩토리, 데이터센터, 클라우드, 스마트시티, 유통 파트너십 등의 광범위한 분야로 확대될 예정이다.
류수정 사피온 대표는 “GS계열사와 대보그룹의 전략적 투자는 단순히 사피온의 기술력을 검증하는 것을 넘어 실제로 다양한 사업 영역에 적용한다는 점에서 의미가 크다”라며 “그동안 쌓아온 기술과 경험을 바탕으로 양질의 AI 서비스를 제공할 수 있도록 긴밀히 협력하겠다”라고 밝혔다.
[박지훈 기자]
[본 기사는 매경LUXMEN 제152호 (2023년 5월) 기사입니다]
