기업들의 AI 도입이 빠르게 확산되고 있지만, 그 도입 속도가 실제 재무성과로 이어지는 경우는 드물다는 진단이 잇따르고 있다. MIT NANDA의 보고서 'The GenAI Divide: State of AI in Business 2025'와 맥킨지앤드컴퍼니의 'The State of AI: Global Survey 2026'은 서로 다른 방법론으로 조사됐지만, 공통적으로 AI 도입 확대가 곧바로 기업 성과로 연결되지 않는다는 결론에 도달했다. 김지현 대표(JiHyun & Company)는 두 보고서의 데이터를 비교 분석하며, AI 도입의 성패를 가르는 핵심 요인이 기술력이 아니라는 점을 짚었다.
도입은 늘어도 성과는 제자리
MIT NANDA 조사에 따르면 기업용 생성형 AI 프로젝트의 약 95%가 측정 가능한 손익 성과를 만들지 못했다. 맥킨지 조사에서도 응답자의 80%가 AI로 개인 생산성이 향상됐다고 답했지만, AI가 영업이익(EBIT)에 기여했다고 응답한 비율은 37%에 그쳤다. 개인 차원의 체감 효과와 기업 전체의 재무적 성과 사이에 큰 격차가 존재한다는 뜻이다.
이런 격차는 AI 예산 배분 방식과도 맞물려 있다. 기업들의 AI 예산은 영업·마케팅 분야에 집중되는 경향을 보이지만, 실제 비용절감 효과는 행정·재무·조달 등 지원부서의 자동화에서 발생하는 것으로 나타났다. 예산이 쏠리는 곳과 성과가 나오는 곳이 엇갈리고 있는 셈이다.
자체개발보다 외부협력이 유리한 흐름
도입 방식에 따른 성공률 차이도 뚜렷하게 드러났다. 외부 파트너와 협력하거나 상용 솔루션을 도입한 프로젝트의 성공률은 약 67%였던 반면, 기업이 자체적으로 개발한 프로젝트의 성공률은 약 33%에 머물렀다. 두 배 가까운 차이는 AI 기술을 처음부터 직접 구축하기보다 검증된 솔루션을 활용하는 쪽이 유리하다는 흐름을 보여준다.
여기에 새로운 제약 요인도 부상하고 있다. 맥킨지 조사에서는 기업 다섯 곳 중 한 곳가량이 토큰 사용료 등 AI 관련 운영비 증가로 사용에 제약을 받는다고 응답했다. 도입 초기 비용뿐 아니라 운영 단계에서 발생하는 지속적 비용 부담이 AI 활용의 새로운 걸림돌로 떠오르고 있는 것이다.
기술보다 문제 정의가 관건
김지현 대표는 Abbott, AstraZeneca, Gilead, Allergan 등의 사례를 들어 AI 도입 성패를 가르는 진짜 요인을 짚었다. 두 보고서를 관통하는 결론은 도입 성공 여부가 기술의 정교함이 아니라 해결하려는 비즈니스 문제를 얼마나 명확히 정의했는가에 달려 있다는 것이다. 문제 정의가 분명한 기업은 의사결정과 도입 속도가 빠르지만, 그렇지 못한 기업은 검토만 반복하며 결정을 미루는 경향을 보인다.
결국 AI 도입은 단순한 기술 도입의 문제가 아니라 경영 전략적 선택의 문제로 귀결된다. 예산을 어디에 배분할지, 자체개발과 외부협력 중 어느 쪽을 택할지, 늘어나는 운영비를 어떻게 관리할지에 대한 판단은 모두 기업이 해결하고자 하는 문제가 얼마나 명확히 정의되어 있는지에서 출발한다. 두 보고서가 공통적으로 가리키는 지점도 바로 여기에 있다.