몇 년 전만 해도 소수의 전유물이던 생성형 AI 기술 활용이 전 산업 분야로 확산되며 기업용 AI 시장이 폭발적으로 성장하고 있다. 최근 국내 대기업 총수들이 직접 나서 임원들에게 AI 교육을 지시하고, 전 사 차원의 AI 도입이 본격화하며 업무 효율성 향상을 위한 AI 활용이 기업 경쟁력으로 이어지고 있다.
불과 2~3년 전만 해도 회사에서 생성형 AI를 사용하는 직원은 소수에 불과했다. 하지만 최근 분위기는 180도 달라졌다. 가장 눈에 띄는 변화는 대기업 총수들의 움직임이다. 이재용 삼성전자 회장, 최태원 SK그룹 회장, 정의선 현대차그룹 회장, 구광모 LG그룹 회장 등이 잇달아 그룹 전반의 AI 전환(AX·AI Transformation)에 속도를 내라고 주문하고 있다. LG그룹은 지난 2월 28일부터 약 2주간 전 계열사 임원을 대상으로 ‘AX 캠프’ 교육을 진행했다. 국내 대기업 중 임원 전원을 대상으로 한 AI 교육 프로그램은 이번이 처음이었다. AI 기술 이해뿐 아니라 비즈니스 모델 혁신, AX 실행 전략까지 집중적으로 다뤘다. LG디스플레이는 이미 지난해 임원 대상 AI 교육을 여섯 차례나 실시했고, 올해도 두 차례 추가 교육을 예정하고 있다.
포스코그룹의 장인화 회장은 지난 2월 임직원 소통 행사에서 “AX를 빨리 하는 회사가 이길 것”이라며 즉각적인 대응을 당부했다. 실제로 포스코는 쇳물 상태와 슬래그위치를 숙련공의 경험에 의존해 판단하던 고온·고압 공정에 영상 인식 기반 AI 조업지원 시스템을 도입했다. 작업자마다 결과가 달라지던 편차 문제를 데이터 기반으로 표준화하는 동시에, 사람이 직접 눈으로 확인해야 했던 안전 리스크까지 줄인 사례다. 한화·롯데·GS·HD현대·두산·신세계 등 주요 그룹도 저마다 AX 대응 체계를 갖추는 데 속도를 내고 있다.
제조 현장의 AI 활용은 품질·공정 관리를 넘어 전 사 업무 전반으로 확산되는 추세다. 삼성전자는 2023년 11월 자체 개발한 생성형 AI ‘삼성 가우스’를 공개하고, 그해 12월부터 사내 업무에 본격 적용했다. 가우스는 언어·코드·이미지를 함께 처리하는 멀티모달 모델로, 온디바이스용 경량 버전과 클라우드 기반 고성능 버전을 함께 운영하며 9~14개 언어와 여러 프로그래밍 언어를 지원한다. 현대차그룹도 자체 AI ‘글레오(Gleo)’를 스마트팩토리 공정 관리에 적용하며 생산 효율화를 꾀하고 있다. SK이노베이션은 마이크로소프트 애저 기반 생성형 AI 플랫폼을 정유·석유화학 업무 전반에 도입해, 엔지니어링 자료 검색·분석이나 보고서 작성처럼 시간이 많이 들던 업무를 간소화했다. 파워 오토메이트, 애저 오픈AI, 팀즈 등 협업 도구와 연계한 지능형 워크플로도 함께 구축했다.
기업들이 실제로 손을 뻗는 AI 서비스는 특정 한두 개에 그치지 않는다. LG CNS는 최근 앤트로픽과 ‘클로드 엔터프라이즈’ 전 사 도입 통합 계약을 체결했다. 클로드 엔터프라이즈는 기업 내부 시스템과 연계해 AI 에이전트를 구축하고 코딩 업무를 지원하는 것이 특징으로, 임직원들이 업무 목적에 맞는 AI 모델을 직접 골라 쓸 수 있게 됐다. 오픈AI 역시 기업 시장 공략에 속도를 내고 있다. 챗GPT 엔터프라이즈는 엔터프라이즈급 보안·관리 기능과 함께, 비즈니스 데이터를 모델 학습에 활용하지 않는 데이터 프라이버시 정책을 기본값으로 제공한다. 최근에는 업무 수행형 에이전트 ‘챗GPT 워크’를 새로 출시했는데, 마이크로소프트 팀즈·슬랙·구글드라이브·셰어포인트·이메일·캘린더·CRM 등 다양한 기업용 서비스와 연동해 문서·엑셀·프레젠테이션·보고서를 자동 생성하는 기능을 갖췄다. 오픈AI의 코딩 에이전트 ‘코덱스’는 이미 주당 500만 명 이상이 사용하는 서비스로 성장했고, 이 가운데 100만 명 이상이 기업 환경에서 쓰고 있는 것으로 알려졌다.
마이크로소프트 365 코파일럿은 오피스 생산성 도구에 AI를 결합한 형태로 국내 기업들 사이에서 널리 쓰인다. 한 시장조사기관이 집계한 자료를 보면, 올해 초 기준 유료 AI 구독자 시장에서 챗GPT가 55.2%로 가장 높은 점유율을 차지했고, 구글 제미나이가 15.7%로 뒤를 이었다. 마이크로소프트 코파일럿은 11.5%로, 지난해 하반기 대비 오히려 점유율이 39% 줄어든 것으로 나타났다. 이는 개별 AI 서비스 간 경쟁이 그만큼 치열해지고 있다는 방증이기도 하다. 국내에서는 마이크로소프트가 산업 별 맞춤형 AI 에이전트 도입 사례를 발표하며 경영진 보고를 지원하는 ‘정기회의체 보고서 에이전트’, 환경 규제를 자동 검토하는 ‘환경법규 검토 에이전트’ 등을 선보이는 등 자율형 AI 에이전트로의 진화를 강조하고 있다.
이러한 기업 단위의 적극적 AI 도입은 기업의 AI 투자 확대로 이어지고 있다. 한 리서치 기관이 발표한 ‘2025년 한국 생성형 AI 소비 동향 보고서’에 따르면 챗GPT 등 주요 7개 서비스의 국내 신용카드 결제 건수는 지난해 12월 166만6000건에 달했다. 2024년 1월 5만2000건이었던 것과 비교하면 2년 만에 32배로 폭증한 수치다. 건 당 평균 결제액은 지난해 연간 기준 약 4만6000원으로, ‘국민 구독 서비스’로 불리는 넷플릭스 최저 요금제(7000원)나 쿠팡(7890원), 멜론(7590원)을 훌쩍 웃돈다. 특히 법인 결제의 건당 평균 금액은 10만7400원으로, 개인 결제(3만4700원)의 세 배를 넘었다. 지난해 12월 한 달간 7개 AI 서비스의 국내 구독 결제액은 803억원으로, 2024년 1월(34억원) 대비 24배 늘었다. 이를 연 반복 매출(ARR)로 환산하면 9636억원에 이른다. 웬만한 중견기업 매출을 웃도는 돈이 매달 AI 구독료로만 빠져나가고 있는 셈이다.
기업의 지출 규모가 커지자 AI 업체들도 고가 요금제로 눈을 돌리고 있다. 오픈AI는 월 200달러짜리 최고가 멤버십을 내놓은 지 두 달 만에 해당 요금제만으로 월 2500만 달러의 수익을 거뒀고, 연간으로는 최소 3억 달러 이상의 수익을 낼 것으로 예상된다. 앤트로픽 역시 월 200달러의 ‘클로드 맥스’ 요금제에 이어 월 500달러대 멤버십 출시를 검토하는 것으로 알려졌다. 실제 이용자 중에는 여러 AI 서비스를 동시에 구독하며 매달 1000달러 이상 지출하는 경우도 있다. 업계 관계자는 “멀티모달, 실시간 음성 인터페이스, 초장문 분석 등 고급 기능을 제공하려면 데이터센터 인프라 투자가 기하급수적으로 늘어나 가격 인상이 불가피하다”고 설명한다.
구독형 서비스 이용에 그치지 않고 자체 AI 인프라 구축에 나서는 기업도 늘고 있다. 상용 SaaS형 생성형 AI가 빠른 도입과 비용 효율성을 앞세운다면, 자체 모델 개발·운영을 택한 기업들은 보안·데이터 통제와 맞춤형 기능 구현을 중시한다. 실제로 다수의 국내 기업 설문에서는 클라우드 기반 AI 서비스의 편의성과 보안성 사이에서 회사 상황에 맞는 균형점을 찾는 것이 핵심 과제로 꼽혔다. 시장조사업체 모르도르인텔리전스는 전 세계 기업용 AI 시장 규모가 올해 1148억7000만 달러 수준에서 2031년 2730억 8000만 달러까지 성장할 것으로 내다봤다. 연평균 성장률로 따지면 18.91%에 달하는 수치다. 이 가운데 소프트웨어·플랫폼이 전체 매출의 65.89%를 차지해 시장을 주도하고, 대기업이 시장의 71.43%를 점유할 것으로 예상되지만, 중소기업 부문의 성장률(연평균 19.34%)이 오히려 대기업보다 가파를 전망이다.
AI 도입이 빨라질수록 보안 우려도 함께 커지고 있다. 한 글로벌 보안업체가 한국을 포함한 전 세계 30개국 8000여 명의 보안·비즈니스 리더를 대상으로 실시한 조사에서, 한국 기업의 83%가 AI 관련 보안 사고를 경험한 것으로 나타났다. 생성형 AI 도구는 이미 널리 쓰이고 있지만, 전체 직원의 20%는 아무런 제한 없이 공개 생성형 AI에 접근할 수 있고, IT 부서의 79%는 직원들의 생성형 AI 사용 여부조차 제대로 파악하지 못하고 있는 것으로 조사됐다. 회사가 승인하지 않은 AI 도구를 직원들이 임의로 쓰는 이른바 ‘섀도우 AI’ 문제가 본격화되는 것이다. 실제 기업의 83%가 이런 비인가 AI 배포를 탐지하는데 자신이 없다고 답했다. 하이브리드 근무가 확산되면서 관리되지 않는 개인 기기로 네트워크에 접속하는 사례가 늘어난 것도 위험을 키우는 요인으로 지목된다.
실제 유출 규모도 빠르게 늘고 있다. 한 글로벌 보안기업이 낸 ‘2026 클라우드 및 위협 보고서’에 따르면 지난 1년 간 기업 내 AI 사용자는 3배 늘었지만, AI 애플리케이션을 통해 외부로 유출된 데이터 규모는 6배나 증가했다. 사용자 증가 속도보다 유출 증가 속도가 두 배 가까이 빠르다는 뜻이다. 특히 유출된 데이터의 40% 이상이 소스 코드와 지적재산권 등 기업 핵심 자산으로 분류돼 우려를 더한다. 개발자가 업무 효율을 위해 회사 소스 코드나 미공개 신제품 기획안을 외부 챗봇에 입력했다가, 그 정보가 학습 데이터로 활용돼 경쟁사 직원의 질의에 유사한 형태로 노출될 수 있다는 경고도 나온다. 보안 전문가들은 섀도우 AI 가시성 확보, AI 에이전트 간 통신 과정에서의 데이터 유출 방지, 승인된 AI 서비스 내 콘텐츠 통제, 사내 구축형 AI 모델의 취약점 검증을 우선 대응 과제로 꼽는다. 프롬프트 인젝션처럼 조작된 입력으로 AI의 출력을 왜곡시켜 민감 정보를 유출시키는 공격 기법까지 등장하면서, 보안팀은 모델 하나만이 아니라 입력·모델·출력 전 과정을 아우르는 다층 방어 체계를 요구받고 있다.
기업의 딜레마는 AI 투자에 대한 성과가 즉각적이지 않다는 점이다. 한 컨설팅기업의 ‘AI 활용 현황’ 보고서에 따르면, AI 이니셔티브를 통해 향후 매출 성장을 기대하는 기업은 74%에 달했지만 실제로 그 성과를 달성했다고 답한 기업은 20%에 불과했다. 기대와 성과 사이의 간극이 여전히 크다는 의미다. 다만 이 보고서는 설문 기업의 34%가 이미 AI를 활용해 제품·프로세스와 사업 모델을 근본적으로 전환하기 시작했고, 30%는 AI를 중심으로 핵심 업무 프로세스를 재설계하고 있다고 밝혀, 상당수 기업이 단순 업무 보조를 넘어선 단계로 진입하고 있음을 보여준다.
시장조사기관 가트너는 AI가 2026년 내내 ‘환멸의 골짜기(기대가 현실을 앞지른 상태)’에 머물러 있다고 진단하기도 했다. 기업의 AI 관련 지출은 47%나 늘고 있는 데 비해 성과 지표의 다이내믹한 개선은 눈에 띄지 않는다는 것이다. 전 세계 최고경영자(CEO)의 62%는 AI를 향후 10년의 경쟁 판도를 좌우할 요소로 보고 있다. 그러한 인식과 실제 성과 사이의 간극은 결국 AI를 ‘얼마나 잘 쓰느냐’의 차이로 좁혀질 가능성이 크다는 의견도 나온다. 도입 자체보다 데이터 정비, 업무 프로세스 재설계, 조직 내 활용 역량 확보 여부가 성과를 가르는 변수라는 지적이다. 실제로 AI를 단순 챗봇 수준에서 벗어나 업무 자동화 에이전트, 공정 제어, 품질 예측 등 핵심 프로세스에 결합시킨 기업들이 먼저 가시적 성과를 보고하고 있다는 점에서 앞으로 AI 활용의 깊이가 곧 기업 간 생산성 격차로 직결될 것이라는 전망에 힘을 싣는다.
업계에서는 기업용 AI 시장이 앞으로 단순한 도입 경쟁에서 활용 효율과 보안 역량을 겨루는 단계로 넘어갈 것으로 보고 있다. 생성형 AI 도입 기업이 빠르게 늘고 있지만 실제 업무 성과를 체감하는 기업은 아직 제한적이고, 섀도우 AI와 정보 유출 등 보안 리스크도 함께 커지고 있어서다. 이에 따라 기업들은 AI 구독 확대와 함께 자체 AI 구축, 거버넌스 정비, 보안 체계 강화에 대한 투자를 병행하며 단계별 성과 평가에 더욱 집중할 것으로 예상된다. 업계 관계자는 “이제는 AI를 얼마나 많이 도입했는지가 아니라 업무 생산성으로 얼마나 연결하고 안전하게 운영하느냐가 경쟁력을 좌우하는 요소가 될 것”이라고 말했다.
[추동훈 기자]
