“AI가 세상을 바꾼다.”
한때는 실체 없는 구호로 여겨졌던 이 간명한 문장이, 이제는 한국 사회를 관통하는 현실로 다가오고 있다. 검색·메신저·쇼핑에서 의료·제조·교육까지, 우리 일상의 거의 모든 접점에서 AI가 이미 의사결정의 속도와 질을 끌어올리고 있기 때문이다. 동시에 GPU와 전력, 규제와 책임, 데이터와 주권 같은 거칠고 현실적인 문제들이 한꺼번에 솟구쳐 올랐다. 올해의 한국 사회를 관통하는 키워드도 단연 ‘AI’다. 기술 낙관과 현실 조정, 국가 전략과 기업 실행이 같은 문장 안에서 부딪히고 섞인다.
골드만삭스는 “2030년까지 전 세계 데이터센터 전력 수요가 2023년 대비 최대 165% 늘어날 것”이라고 전망한다. 온라인으로 구현되는 인공지능의 성장이 아이러니하게 전력·인프라라는 땅 위의 자양분에 여전히 깊게 의존하는지를 단적으로 보여주는 대목이다.
지난해 서울에서 열린 ‘AI 서울 정상회의’는 안전·혁신·포용을 축으로 국제 공조의 방향을 제시했고, 한국은 그 후속으로 판교에 ‘AI 안전연구원(AISI)’을 공식 출범시켰다. 선언과 기구는 상징을 넘어 제도와 기술의 연결 고리를 만들기 시작했다. 동시에 정부는 ‘인공지능 기본법’을 공포해 1년의 준비기간을 거쳐 내년 1월 전면 시행을 앞두고 있다. 한국이 규범·인프라·인재라는 세 축을 ‘법과 기관’으로 묶어내며 국가 전략의 골격을 세웠다는 점에서 올해는 분기점이다.
글로벌 경쟁의 새 질서도 한국의 선택을 요구하고 있는 모습이다. 미국의 ‘인프라 드라이브’는 한국의 산업구조 변화와 참여를 동시 요구하고 있다. 반면 유럽은 ‘규범 드라이브’를 거는 모습이다.
미국은 올여름 ‘데이터센터 인프라의 연방 인허가 신속화’ 행정명령으로 AI 데이터센터·송전 등 대규모 프로젝트에 패스트트랙을 걸었다. 전력망과 입지, 인허가를 한 번에 풀겠다는 신호다. 이는 AI 경쟁을 ‘모델 성능’에서 ‘국가 인프라 조달력’의 게임으로 전환시키는 결정적 조치다. 반면 유럽연합은 AI 법(AI Act)에서 올해 8월부터 범용(GPAI) 모델 의무를 본격 적용하기 시작했다. 규범을 통해 시장 질서를 잡겠다는 접근이다. 같은 목표를 향한 서로 다른 방법론—인프라 대 규제—이 글로벌 패권 레이스의 결을 바꾼다.
젠슨 황 엔비디아 CEO는 “모든 나라는 자신들만의 지능(sovereign AI)을 보유해야 한다”라고 거듭 강조하고 있다. 미국과 중국을 필두로 한 AI 패권전쟁이 한창인 시점에 의미있는 지적일 수 있다. 물론 각국이 자신만의 AI 인프라를 구축하는 것이 엔비디아의 세일즈에 도움이 될 수 있기 때문이라는 날카로운 지적도 있다.
기업들이 주도가 된 한국어·한국 법제·한국 산업 현장 데이터를 스스로 통제하는 주권형 AI가 토대라면, 그 위에서 서로 다른 모델과 도구를 ‘관현악처럼’ 엮어내는 오케스트레이션 전략이 경쟁의 질을 좌우한다. 국내에선 네이버의 하이퍼 클로바(HyperCLOVA X SEED), LG의 엑사온(EXAONE) 생태계, SKT의 멀티 LLM 기반 에이전트형 서비스가 대표적이다.
기업은 한 개의 거대 모델 대신 업무에 특화된 다수의 모델·에이전트를 조합하며 속도와 비용을 최적화하는 흐름으로 이동 중이다. 가트너가 올해 전략 기술 트렌드의 첫머리에 ‘Agentic AI’를 올린 것도 같은 맥락이다.
가트너 보고서에 따르면 “다수 에이전트를 조율하는 오케스트레이션 프레임이 2025년 기업 AI의 주류가 된다”라고 주지하며 “다만 ‘에이전트 워싱’을 경계하고 ROI가 분명한 과제부터 가야 한다”라고 주장했다.
한국 정부는 1차 추경 1조 4600억원으로 네이버클라우드·NHN클라우드·카카오 컨소시엄을 선정, 연말부터 순차 지원할 첨단 GPU 1만 3000장 확보 계획을 밝혔다. 국가 슈퍼컴퓨터 6호기는 GH200 등 최신 GPU 8496장을 갖춘 600PF급으로 내년 상반기 서비스 개시가 목표다. 민간에선 SK텔레콤이 B200 1000장 이상을 묶은 ‘해인’ 클러스터로 GPUaaS를 내놨고, SK그룹과 AWS는 울산에 초기 100MW 규모로 시작하는 국내 최대 AI 데이터센터를 착공한다. HBM 메모리에선 SK하이닉스가 올해도 엔비디아의 주된 공급사로 평가받는 가운데, 삼성전자는 12단 HBM3E의 엔비디아 인증을 통과했다는 보도가 잇따르며 판도가 다극화되는 조짐이다. 문제는 전력이다. 수도권 데이터센터는 전력망 포화와 토지 비용 제약에 걸려 지방 분산이 빨라지고 있으나, 분산 에너지 특구 지정 지연 등으로 제도적 불확실성도 상존한다. 이 모든 요소가 한국의 ‘AI 체력’을 좌우한다.
골드만삭스 리서치에 따르면 “데이터센터 전력 수요는 2030년까지 최대 165% 뛸 수 있다”라며 “전력·입지·인허가 병목을 못 풀면 모델 경쟁력도 지체된다”라고 지적했다.
내년 1월 22일 시행되는 ‘인공지능 기본법’은 고영향 AI의 투명성·안전성 의무, 외국 사업자 국내 대리인 지정, 안전연구원 설립 등 거버넌스의 기반을 놓는다. 개인정보보호위원회는 지난 8월 ‘생성형 AI 개발·활용을 위한 개인정보 처리 안내서’를 내고 데이터 수명주기별 기준을 제시했다. 한편 교육 현장에선 AI 디지털교과서의 법적 지위가 올 8월 본회의 통과로 ‘교과서’에서 ‘교육자료’로 낮아지며 연내 의무 도입이 사실상 철회됐다. 정책은 속도를 냈지만, 현장 적용은 데이터·저작권·평가 체계 등 난제가 교차한다. 제도 신뢰를 얻으려면 ‘최소한의 규범 명확성’과 ‘테스트베드에서의 검증’을 병행해야 한다.
한 AI기업 임원은 “법은 방향을, 가이드는 절차를 던지고 남은 건 현장 적합성이다”라며 “샌드박스와 공공조달을 통해 ‘성공 사례’를 먼저 보여줘야 한다”라고 주장했다. 법안의 구체성만큼 성공사례를 만들어내는 실행력이 중요하다는 주장이다.
전문가들은 공통적으로 정답을 고르는 시험이 아니라, 맥락을 설계하는 시간이라고 조언한다. 지금 한국 기업들이 마주한 선택은 시험지가 아니라 지도를 펴는 일에 가깝기 때문이다. 인공지능 전략을 두고 흔히 ‘소버린 AI’와 ‘오케스트레이션’이라는 두 갈래로 이야기하지만, 현실은 둘 중 하나를 고르는 문제가 아니다. 오히려 산업의 특성과 규제 환경, 보유한 데이터의 성격에 맞춰 비율을 조정하고 교차시키는 방식이 더 적합하다.
민감한 개인정보나 기업 핵심 지식이 얽힌 업무라면, 한국어와 국내 규범을 깊게 반영한 주권형 모델이 안전과 일관성을 보장한다. 금융권의 KYC(Know Your Customer) 문서 검토, 병원의 환자 데이터 분석 같은 영역이 대표적이다. 반대로 빠른 실험과 반복이 필요한 영역, 이를테면 마케팅 문구 작성이나 고객 상담 지원 같은 업무에서는 외부 최신 모델을 과업별로 불러와 조합하는 것이 더 합리적이다.
글로벌 조사기관 가트너는 올해 기업 AI의 핵심 흐름을 ‘에이전트 오케스트레이션’으로 지목했다. 이는 단일 거대 모델에 의존하기보다 여러 모델을 업무 맥락에 맞게 배치하고, 속도·비용·정확성을 KPI로 삼아 상시 계량하는 운영 방식을 뜻한다. 그렇게 하려면 프롬프트와 툴 인터페이스를 표준화하고, 레드팀 실험과 평가 데이터를 상시 돌리며, 실행 로그와 버전 관리를 꼼꼼히 해야 한다. 그래야 특정 벤더에 종속되지 않고 성능을 최적 조합할 수 있다.
규제 환경 역시 오케스트레이션의 중요성을 키운다. EU 집행위는 범용 AI(GPAI)에 대한 투명성·책임 요건을 2025년부터 본격 적용했다. 학습 데이터의 요약 공개, 안전성 문서화 같은 요구는 기업이 여러 모델을 조율할 때 ‘출처와 책임’을 추적 가능하게 만들어야 한다는 신호다. 한국도 개인정보보호위원회가 8월 발표한 안내서에서 AI 전 생애주기별로 개인정보 영향평가(PIA), 워터마킹, 민감도 필터링을 권고했다. 이는 사후 대응보다 사전 통제를 내재화할수록 비용과 위험을 줄일 수 있음을 보여준다.
인프라 현실도 같은 메시지를 전한다. GPU와 전력이 한정된 상황에서 ‘무조건 큰 모델’만 돌리다가는 비용과 탄소 부담이 커질 수 있다. 오히려 과업에 맞는 모델 크기를 선택하고, 필요할 때 외부 모델을 빌려 쓰는 유연성이 더 경쟁력을 준다. 국내 AI 전문가인 정송 KAIST 교수는 최근 “한국 기업은 자국어와 산업 데이터를 반영한 자체 모델을 키우면서도, 동시에 글로벌 모델을 활용할 수 있는 조율 능력을 길러야 한다”라고 강조했다. 그는 “두 전략이 충돌하는 것이 아니라 서로를 보완하는 방향으로 발전해야 한다”라고 덧붙였다.
결국 ‘소버린×오케스트레이션’은 하나의 구호가 아니라, 조직이 갖춘 자원과 목표를 최적화하는 운영 철학이다. 대기업은 코어 업무에선 주권형 모델을, 엣지 영역에선 유연한 멀티 LLM 운영을 병행할 수 있고, 중견·스타트업은 외부 모델을 기반으로 빠른 미세조정과 자체 데이터 축적을 통해 성장할 수 있다. 공공 부문은 샌드박스와 조달을 통해 성공 사례를 쌓고, 국가 슈퍼컴과 민간 GPUaaS를 상호 운용하면서 표준 레퍼런스 스택을 만들어야 한다는 것이다.
요컨대 한국형 해법은 단정된 정답이 아니라, 상황과 자원에 맞춰 조율하는 균형 감각이다. 코어는 주권적으로, 에지는 유연하게. 중요한 것은 각 조직이 그 비율과 속도를 데이터와 성과로 증명해 가는 일이다. 그렇게 할 때 비로소 ‘소버린×오케스트레이션’은 슬로건을 넘어 실행 전략이 된다.
[박지훈 기자]
[본 기사는 매경LUXMEN 제181호 (2025년 10월) 기사입니다]
