AI와 자동화가 효율로 번역되는 기업과 그렇지 못한 기업의 격차가 빠르게 벌어지고 있다. 최근 기업들은 두 가지 숫자 사이에서 갈팡질팡한다. 하나는 ‘AI를 도입했다’라는 보도자료의 숫자이고, 다른 하나는 분기 실적표에 찍히는 영업이익률의 숫자다. 전자는 대부분 기업이 이미 확보했지만, 후자는 일부 기업만 손에 쥐고 있다.
효율화는 비용 절감의 다른 이름처럼 보이지만, 실제로는 ‘조직 운영모델’의 문제다. 같은 도구를 써도 누군가는 생산성을 당기고, 누군가는 파일럿 단계에서 제자리걸음에 그친다. 이 차이는 곧 실적으로 드러난다. 경기가 느슨해지고 금리가 내려가는 구간에서 시장이 가장 먼저 확인하려는 것은 ‘성장 스토리’가 아니라 ‘수익의 질’이다. 2026년은 AI가 그 검증의 잣대가 되는 시기가 될 가능성이 커졌다.
AI 투자는 늘고 있는데, 누구는 이익률이 개선되고 누구는 비용만 늘어난다. 효율을 만들어내는 회사로 돈이 모이고, 그렇지 못한 회사에서 돈이 빠져나간다. 자본은 결국 이익이 ‘증명된’ 곳으로 움직인다. 다만 최근 눈에 띈 장면은 ‘기술’이 아니라 ‘거래’였다. AI 경쟁이 깊어질수록 기업들은 개발보다 인수로 시간을 산다. 생성형AI의 엔진을 가진 회사가 학습·운영 도구 회사를 품고, 칩 회사가 데이터센터의 작업 스케줄러를 사들인다. 업무 자동화 플랫폼은 사용자 경험(프론트엔드)까지 흡수하며 ‘전사 확산’의 마지막 장벽을 낮춘다. 이 흐름은 단순한 M&A 뉴스가 아니다. 효율의 사다리 자체를 다시 그리는 움직임이다.
AI를 잘 쓰는 기업은 도구·데이터·인재를 묶어 전사적으로 확산시키고, 그 과정에서 남는 비용을 다시 투자로 돌려 격차를 키운다. 반대로 AI를 ‘업무 보조’ 수준에서 멈추는 기업은 도입비용만 늘고, 직원 피로도와 시행착오 비용이 쌓이며 실적이 지체될 가능성이 커진다. 2026년의 실적 격차는 그래서 ‘AI 보유’가 아니라 ‘AI 운영’에서 갈린다.
AI는 빠르게 퍼졌지만, 기업의 속도는 느리다. 도입은 쉬워졌다. 클라우드 기반 모델, 업무용 코파일럿, 사내 챗봇은 오늘 계약하고 내일 배포할 수 있다. 그러나 ‘조직 전체의 습관’은 하루아침에 바뀌지 않는다. 개인이 도구를 쓰는 것과, 회사가 프로세스를 재설계해 효율을 숫자로 바꾸는 것은 완전히 다르다. 파일럿 단계에서는 ‘시간이 줄었다’라는 체감이 생긴다. 하지만 전사 확산 단계에서는 업무의 책임, 승인 체계, 데이터 접근 권한, 규정 준수, 보안, 품질관리까지 모두 재설정해야 한다. 여기서 많은 기업이 ‘현장’에서 멈춘다. 기술이 부족해서가 아니라, 설계가 부족해서다.
전사 확산의 난이도는 대개 세 군데에서 폭발한다. 첫째, 데이터다. AI가 일하려면 문서·로그·고객 데이터가 정리돼 있어야 한다. 데이터가 흩어져 있으면 AI는 정확히 답하지 못하고, 직원은 다시 손으로 고친다. 둘째, 책임이다. AI가 작성한 문서를 누가 승인하고, 오류가 났을 때 누가 책임지는지 정해야 한다. 셋째, 보안과 규정이다. ‘섀도 AI’(승인받지 않은 AI 사용)가 늘어날수록 정보 유출과 컴플라이언스 리스크가 커진다. 결국 AI는 도입 비용보다 ‘통제 비용’이 비싼 기술이 된다. 통제를 설계할 역량이 있는 기업만 효율을 확보하고, 나머지는 불안정한 파일럿을 반복한다.
맥킨지 2025년 11월 보고서에 따르면 “설문 응답 기업의 거의 3분의 2는 아직 전사적 수준으로 AI를 확장(scaling)하기 위한 착수에도 미치지 못했다”라고 분석했다.
실적 격차를 가장 직관적으로 보여주는 단어는 ‘프론티어(frontier)’다. 일부 조직과 일부 직원은 이미 AI를 ‘습관’으로 만들었다. 그들은 단순히 더 많이 쓰는 것이 아니라, 더 깊이 쓴다. 반복 작업을 줄이는 데서 멈추지 않고, 업무 흐름 자체를 표준화해 AI가 들어갈 자리를 만들고, 결과물을 측정해 개선한다.
오픈AI가 2025년 12월 공개한 기업 AI 활용 보고서는 ‘프론티어’와 ‘중앙값’의 간극을 메시지 사용량으로 제시한다. 95퍼센타일 ‘프론티어 근로자’는 중앙값 근로자보다 AI에 보내는 메시지가 6배 많고, 데이터 분석 직무에서는 고급 도구 사용이 16배까지 벌어진다. 조직 단위로 보면 격차는 더 흥미롭다. 프론티어 기업은 단순 메시지 총량에서 2배, 맞춤형 GPT 활용 같은 고급 사용에서는 7배 이상 차이가 난다. 보고서가 강조하는 포인트는 양이 아니라 ‘운영모델’이다. 프론티어 기업은 AI를 주변 도구가 아니라 핵심 역량으로 보고, 인프라와 표준화, 변화관리, 교육을 함께 투자한다. 결과적으로 같은 인건비를 쓰더라도 산출물이 달라진다.
보고서에 담긴 사례는 ‘AI가 돈이 되는가’를 더 구체적으로 보여준다. 고객 응대에 AI 에이전트를 투입한 기업은 상담 단가를 낮추고, 응대 품질을 일정 수준으로 맞춘다. 법무·리스크 같은 내부 지원 조직은 반복 질의응답을 자동화해 핵심 업무로 인력을 재배치한다. 이 변화는 ‘사람을 줄였다’보다 ‘사람을 옮겼다’에 가깝다. 중요한 것은 재배치가 가능해지려면 업무가 표준화돼 있어야 한다는 점이다. 표준화가 안 된 조직에서는 AI가 오히려 ‘추가 업무’를 만든다. 결국 프론티어와 중앙값의 격차는 기술 수준이 아니라 조직의 기초 체력에서 벌어진다.
투자자 관점에서는 이 격차를 어떻게 읽어야 할까. 단기적으로는 영업이익률과 판관비율이 힌트가 된다. 그러나 더 중요한 것은 ‘생산성 지표의 방향’이다. 인당 매출, 인당 영업이익, 고객당 지원 비용, 처리 시간 같은 운영 지표가 개선되는지, 아니면 도입 비용만 늘어나는지 봐야 한다. 2026년 시장은 ‘AI를 하고 있다’라는 언어보다 ‘AI가 실적을 바꾸고 있다’라는 숫자를 더 크게 쳐다볼 가능성이 크다.
AI 도입이 넓어졌다는 사실 자체는 이제 뉴스가 아니다. 문제는 ‘깊이’다. 최근 EY한영이 2025년 11월 발표한 조사에서는 직원의 88%가 직장에서 AI를 사용하지만, 주로 검색·요약 같은 기본 업무에 제한된다고 지적한다. 업무가 줄었는지 물으면 정반대의 응답이 나온다. 64%는 지난 1년간 업무량이 늘었다고 느꼈고, AI에 대한 의존이 오히려 역량을 약화할 수 있다는 우려도 적지 않았다. ‘도구는 늘었는데 일이 줄지 않는’ 역설이 나타난다.
같은 88%의 사용률이라도, 조직이 그 사용을 이익으로 번역하느냐가 관건이 된다. EY가 “최대 40%의 생산성 향상을 놓치고 있을 수 있다”고 경고한 맥락도 여기에 있다. 도구는 있지만, 사람과 프로세스가 준비돼 있지 않으면 생산성은 기대만큼 나오지 않는다.
국가 단위에서도 확산은 더디다. OECD가 2025년 12월 발간한 보고서는 G7 국가에서 2024년 기준 기업의 ‘핵심 사업 기능’에서의 AI 도입이
10% 미만이라고 정리한다. 미국이 6.1%, 일본이 1.9%로 제시되는데, 이는 AI가 ‘업무 주변부’에서 ‘생산의 중심부’로 이동하는 과정이 아직 진행형임을 시사한다. 거꾸로 말하면, 지금의 격차는 더 커질 여지가 있다. 핵심 기능에서 AI를 표준화하는 기업이 늘어날수록, 뒤처진 기업은 생산성 격차를 한 번에 따라잡기 어렵다.
이런 ‘확산의 난이도’는 산업별로도 격차를 만든다. 소프트웨어·미디어·통신처럼 디지털 자산 비중이 높은 산업은 AI를 붙여도 효과가 비교적 빠르게 나온다. 반면 제조·유통·금융처럼 규정과 예외가 많은 산업은 ‘한 번 더 확인’이라는 단계가 쉽게 사라지지 않는다. 그래서 AI가 만들어내는 실적 격차는 단순한 기술 격차가 아니라 산업 구조의 격차로도 번진다. 2026년에는 산업 내에서도 ‘AI를 중심 기능에 넣은 기업’과 ‘보조 기능에 머문 기업’의 이익률 차이가 더 선명해질 가능성이 크다.
효율화가 실적을 만든다는 말은, 누군가의 일자리가 줄어들 수 있다는 말과 겹친다. 2025년 말 미국 고용시장에서는 이 긴장이 통계로 드러난다. 컴프티아(CompTIA) 분석을 인용한 워싱턴포스트 보도에 따르면, 11월 기술 직무 실업률은 4%까지 올라왔다. 10월에서 11월 사이 산업 전반의 기술직 직군 종사자는 13만 4000명 감소했고, 기술 산업 내부에서도 6800명 이상이 줄었다. 채용 공고도 감소했지만, 요구 역량은 더 뚜렷해졌다. 같은 기사에서 11월 기술직 공고의 41%가 AI 역량을 요구하는 것으로 집계된다. 한마디로 ‘일자리는 줄지만, AI 역량자를 뽑는’ 시장이다.
감원의 이유는 더 직접적으로 나타난다. 챌린저(Challenger, Gray & Christmas)의 10월 보고서(11월 6일 공개)는 기업들이 감원 사유로 AI를 두 번째로 많이 언급했다고 밝혔다. 보고서에 따르면 10월 한 달만 AI를 이유로 한 감원이 3만 1039명, 연간 누적 4만 8414명으로 집계됐다. 물론 이 숫자가 “AI가 일자리를 대체했다”라는 단일 원인을 뜻하는 것은 아니다. 비용 절감과 구조조정, 경기 둔화, 재조정이 함께 섞여 있다. 다만 기업이 효율화의 도구로 AI를 공공연히 언급하기 시작했다는 점은 의미가 크다. ‘AI가 필요하다’라는 구호가 ‘AI 때문에 구조를 바꾼다’라는 실행으로 넘어갔다는 뜻이다.
그렇다면 이는 생산성 향상의 증거일까. 단기적으로는 그럴 수 있다. 인건비는 가장 큰 고정비 중 하나이고, 효율화는 이익률을 당긴다. 실제로 많은 기업이 AI 인프라에 거액을 투자하면서도 인건비를 조정하고 있다.
워싱턴포스트 이에 대해 “미국 주요 빅테크가 올해 AI 인프라에 최대 3750억달러까지 투자할 계획을 밝힌 동시에, 수천 명 규모의 감원을 진행했다”라고 전했다. 투자자로서는 ‘AI 투자=성장’이라는 도식과 ‘AI 투자=비용 절감’이라는 도식이 동시에 작동하는 구간이다.
이제 투자자는 새로운 지표를 봐야 할 시점에 와있다. 첫째, 기업이 AI를 어떤 방식으로 비용 구조에 반영하고 있는가. 둘째, 그 효율화가 단기 이익률 개선인지, 장기 경쟁력 강화인지다. 한국 시장에서도 AI와 자동화는 이미 산업별로 다른 속도로 번지고 있다. 반도체·전력·데이터센터와 맞닿은 기업은 글로벌 투자 사이클의 혜택을 받는다. 반면 제조·유통·금융 등 ‘현장 프로세스’가 복잡한 산업은 AI 도입의 난도가 높다. 이 차이는 실적의 격차로 이어지기 쉽다. 결국 한국 투자자에게 남는 질문은 단순하다. ‘AI를 도입했는가’가 아니라 ‘AI가 이익으로 번역됐는가’다.
투자 판단에 도움이 되는 신호는 의외로 전통적이다. 판관비율이 어떻게 움직이는지, 운영 효율의 개선이 일회성인지 구조적인지, 인당 생산성이 상승하는지다. 그리고 실적발표에서 AI가 ‘기술 키워드’로만 등장하는지, 아니면 공정·고객 응대·재고·리스크 관리 같은 핵심 기능의 KPI 변화로 연결되는지다. 도입이 ‘파일럿’에서 ‘전사 표준’으로 넘어갔는지도 중요한 체크포인트다. 맥킨지가 말하듯 대부분 기업은 확산 단계에 도달하지 못했다.
개인과 노동시장 차원에서도 같은 질문이 반복된다. AI가 일자리를 줄인다는 공포보다 더 중요한 것은 ‘역량 프리미엄’의 확대다. 미국 사례에서 보듯 채용이 줄어도 AI 역량자는 필요하다. 한국에서도 마찬가지다. AI를 ‘쓸 줄 아는 사람’과 ‘업무를 AI 중심으로 재설계할 줄 아는 사람’의 임금과 기회는 달라질 가능성이 크다. 기업 실적의 격차는 개인 소득의 격차와 맞물려 더 큰 파급력을 만든다.
다행히 거시적 차원의 힌트도 나온다. 세인트루이스 연은 2025년 11월 보고서에서 “직장에서 생성형 AI를 사용하는 사람들의 ‘시간 절감’이 이미 총노동생산성을 의미 있게 끌어올렸을 가능성이 크다”라고 분석했다.
[박지훈 기자]
[본 기사는 매경LUXMEN 제184호 (2026년 1월) 기사입니다]
