기업들이 인공지능(AI) 도입에 천문학적인 비용을 쏟아붓고 있지만, 실제 매출 성장으로 이어지는 경우는 5곳 중 1곳에 불과한 것으로 나타났다. 투자는 늘고 성과는 제자리인 'AI 투자수익률(ROI) 역설'이 글로벌 경영 현장의 화두로 부상하고 있다.

29일 IT 업계에 따르면 가트너, 세컨드탤런트 등 주요 조사기관이 발표한 자료를 종합할 때 글로벌 대기업의 연평균 AI 투자액은 650만 달러(약 100억원)에 달한다. 올해 전 세계 AI 지출 총액은 전년 대비 47% 급증한 2조5900억 달러에 이를 것으로 전망된다. 특히 생성형 AI 소프트웨어 지출 증가율은 전년 동기 대비 80.8%나 증가했다.

투자 규모는 가파르게 늘었지만 성과는 기대에 못 미치고 있다. 딜로이트가 경영진 1854명을 대상으로 실시한 설문에서 AI를 통해 실제 매출 성장을 달성했다고 응답한 글로벌 기업은 20%에 그쳤다. 명확한 전략 없이 생성형 AI 도입에만 예산을 투입한 기업의 AX(AI 전환) 실패율은 더 높았다. 공식적인 AI 전략을 보유한 기업의 성공적 도입률은 80%인 반면, 전략 없이 도입한 기업은 37%에 불과했다.

에이전트 AI 확산으로 토큰 비용 부담도 커졌다. 크런치베이스 분석에 따르면 직원 1인당 AI 토큰 지출은 일반 기업이 월 2246달러(약 346만원), 상위 25% 기업은 월 1만4843달러(약 2286만원) 수준이다. 실제로 우버가 엔지니어 5000명에게 AI 코딩 도구를 배포한 결과, 1인당 월 500~2000달러(약 77만~308만원)가 청구돼 4개월 만에 연간 예산 전액을 소진하기도 했다.

국내 상황은 양극화가 뚜렷하다. 국내 기업의 80% 이상이 어떤 형태로든 AI를 도입한 것으로 파악되지만, 비용 부담이 큰 국내 중소 제조기업의 AI 도입률은 1% 안팎에 불과하다. 대한상공회의소 조사에서도 제조기업의 82.3%가 'AI를 경영에 활용하지 않고 있다'고 답했으며, 중소기업 활용도는 4.2%에 그쳤다. 당장 매출로 이어지지 않는 영역에 수억원을 투입할 여력이 없기 때문이다.

가트너의 미셸 칼슨 애널리스트는 "단순히 AI 지출을 늘린다고 비즈니스 성과로 이어지지는 않는다"며 "성공한 기업들은 AI를 제품 혁신, 영업, 마케팅에 연계해 성장 엔진으로 활용한 기업들"이라고 평가했다.