기업용 생성형 AI 프로젝트의 약 95%가 측정 가능한 손익 성과를 만들지 못했다는 조사가 나왔다. 김지현 JiHyun & Company 대표는 칼럼에서 이 조사 등을 근거로, AI 도입의 성패는 기술을 얼마나 많이 쓰느냐보다 기업이 풀어야 할 비즈니스 문제를 얼마나 명확히 정의했느냐에 달려 있다고 주장했다.
김 대표는 성장 단계 기업과 투자사 포트폴리오의 커머셜 전략을 자문하는 JiHyun & Company를 이끈다. 글로벌 제약사와 다국적 기업에서 마케팅·영업·전략 리더십을 맡아 온 경력이 30년 이상이며, Abbott, AstraZeneca, Gilead, Allergan 등을 거쳤다.
조사가 보여주는 도입과 성과의 간극
칼럼이 먼저 든 근거는 MIT NANDA의 ‘2025 기업 AI 현황: 생성형 AI 격차’ 보고서(The GenAI Divide: State of AI in Business 2025)다. 이 보고서에서 조사 대상 기업용 생성형 AI 프로젝트의 약 95%는 측정 가능한 손익 성과를 내지 못했다.
맥킨지앤드컴퍼니의 ‘2026 AI 현황 글로벌 조사’(The State of AI: Global Survey 2026)에서는 응답자의 80%가 AI로 개인 생산성이 향상됐다고 답했다. AI가 기업의 영업이익(EBIT)에 기여했다고 응답한 비율은 37%였다. 개인 차원의 체감과 기업 차원의 재무 성과 사이에 간극이 있다는 것이 칼럼의 설명이다.
MIT NANDA 보고서는 예산이 영업·마케팅에 집중됐지만, 비용 절감은 행정·재무·조달·문서 처리 등 지원 부서 자동화에서 더 나타났다고 밝혔다. 같은 보고서에서 전문기업의 상용 솔루션을 구매하거나 외부 파트너와 협력한 프로젝트의 성공률은 약 67%였다. 기업이 자체 개발한 프로젝트의 성공률은 약 33%였다. 필자는 모델을 보유했는지보다 업무 흐름에 적용하고 수정하는 속도가 성과를 좌우했다고 해석했다.
운영비 부담과 ‘더 바빠진 회사’
맥킨지 조사에서 기업 다섯 곳 중 한 곳가량은 AI 관련 운영비가 늘어 사용에 제약을 받고 있다고 답했다. 칼럼은 현장에서도 AI 도입 뒤 토큰 사용료가 예상보다 빠르게 늘어 연간 예산을 몇 달 만에 소진하거나 구성원의 사용 범위를 제한하는 사례가 나온다고 적었다.
김 대표가 만난 한 기업 대표의 사례도 나온다. 그 대표는 AI 도입 뒤 회사가 오히려 더 바빠졌다고 했다. 칼럼에 따르면 AI가 하루 24시간 검토할 자료와 판단할 사안을 쏟아내고, 전에는 손대지 못하던 업무까지 빠르게 처리할 수 있게 된 결과다. 칼럼은 이 회사에서 결원이 생겨도 곧바로 충원하지 않고 기존 조직으로 업무를 이어갈 수 있어 신규 채용을 크게 줄였다고 전했다. 필자는 매출 증가보다 반복 업무 처리, 인력 운용, 의사결정 속도에서 AI 도입 효과가 먼저 나타난 사례로 해석했다.
워크숍에서 갈린 두 부류
김 대표는 AI 의사결정 모델을 활용한 사업 성과 측정 워크숍 논의에서 기업 반응이 두 부류로 갈렸다고 소개했다. 한쪽은 빠르게 도입해 결과를 측정하고 수정했다. 다른 쪽은 시연과 검토를 거친 뒤에도 결정을 미뤘다.
김 대표는 두 부류를 가른 것이 AI 지식의 차이보다 풀어야 할 문제를 얼마나 분명히 인식하느냐의 차이라고 평가했다. 칼럼은 AI가 유행하기 때문에 도입하면 기대하는 성과도 모호해진다고 짚었다. 반대로 해결하려는 문제가 분명하면 필요한 기술, 적용 범위, 투자 규모, 성과 지표를 구체적으로 설계할 수 있다.
소프트웨어 추가가 아닌 경영의 선택
김 대표는 AI 도입이 소프트웨어를 하나 더하는 일이 아니라 경영의 선택이라고 강조했다. 해결하려는 비즈니스 문제, AI로 줄일 시간과 비용의 규모, 성과를 측정할 기준을 먼저 정해야 한다는 것이다.
김 대표는 앞으로 2~3년 동안 기업 간 AI 활용 격차가 더 커질 가능성이 높다고 내다봤다.