모델 가격이 내려가도 총비용은 늘 수 있습니다
AI 모델 가격은 AI 업무 한 건을 완성하는 데 드는 비용의 일부일 뿐입니다. 토큰 100만 개당 가격이 내려가도 직원이 모델을 더 자주 쓰고, 입력과 출력이 길어지고, 에이전트가 한 업무에서 여러 모델을 반복 호출하면 전체 청구액은 커질 수 있습니다. 검색·보안·평가·모니터링을 붙이는 비용도 함께 늘어납니다.
스탠퍼드 AI 인덱스는 비슷한 성능을 내는 모델의 추론 가격이 얼마나 빠르게 하락했는지 보여줍니다. GPT-3.5와 비슷한 성능을 기준으로 100만 토큰당 비용은 2022년 11월 미화 20달러에서 2024년 10월 미화 0.07달러로 내려갔습니다. 하지만 이 수치만으로 기업의 AI 비용이 줄었다고 말할 수는 없습니다. 기업이 호출한 횟수와 최종 결과물이 실제로 채택됐는지가 빠져 있기 때문입니다.
따라서 비용 단위는 토큰이 아니라 ‘확인을 마치고 실제로 사용된 업무 결과물’이어야 합니다. 고객 문의가 정확히 해결됐는지, 보고서가 수정 없이 승인됐는지, 소프트웨어 변경이 재작업 없이 배포됐는지처럼 업무의 끝을 정의해야 합니다. 그 결과에 도달하기까지 발생한 모델 호출, 시스템 연결, 담당자 확인과 오류 수정 비용을 모두 포함합니다.
AI 도입 전 업무부터 측정해야 합니다
AI 투자수익률을 계산하려면 도입 전 기준선이 필요합니다. 월 처리 건수, 건당 소요시간, 실제 유급 노동시간, 오류와 재작업 비율, 고객이나 직원의 대기시간을 먼저 기록합니다. 지연과 오류가 손실을 만들었다면 그것도 별도로 측정합니다. 기준선이 없으면 시연 화면이 빨라 보인다는 사실만으로 추가 편익을 계산할 수 없습니다.
업무의 시작과 끝도 고정해야 합니다. AI가 답변 초안을 만들었지만 담당자가 모든 사실을 다시 확인하고 절반을 고친 뒤 다른 시스템에 입력해야 한다면, 측정 대상은 ‘초안 생성’이 아닙니다. 최초 요청부터 최종 시스템에 승인된 결과가 들어갈 때까지가 하나의 업무입니다. 작성자에게서 검수자에게 일이 옮겨갔을 뿐인데 이를 비용 절감으로 잡으면 안 됩니다.
매출도 마찬가지입니다. 더 많은 홍보문, 영업 후보나 상품 아이디어는 중간 산출물입니다. AI가 실제 전환율·유지율·판매량·가격을 개선했는지, 기존 매출을 대체한 것은 아닌지, 추가 매출을 이행하는 비용은 얼마인지 확인해야 매출 편익이 됩니다.
AI 비용은 네 묶음으로 나눠야 합니다
첫째는 직접 사용료입니다. 입력·출력 토큰, 회사 자료를 찾기 위한 색인과 검색 호출, 이미지·음성 처리, 에이전트의 재시도, 결과 평가 호출, 예약했지만 쓰지 못한 연산자원이 포함됩니다. 여러 단계로 움직이는 에이전트는 답변 하나를 보여주기 전에 보이지 않는 호출을 여러 번 할 수 있습니다.
둘째는 AI를 받치는 애플리케이션과 데이터 비용입니다. 회사 자료를 검색하는 데이터베이스, 클라우드, 라이선스, 접근권한, 시스템 모니터링, 데이터 정리, 기존 시스템 연결과 공급업체 관리가 필요합니다. 자체 운영은 API 청구서를 AI 칩, 쓰지 않는 연산용량에도 돈을 내는 위험, 운영 인력 비용으로 바꾸는 것이지 연산비를 없애는 일이 아닙니다.
셋째는 사람의 비용입니다. 직원 교육과 업무 재설계, 사용자 지원이 필요합니다. 현업 전문가는 결과물을 검수하고 예외를 처리하며 오류를 고칩니다. 보안·법무·리스크·준법감시 조직도 도입 승인과 지속 모니터링에 시간을 씁니다. 미국 NIST의 생성형 AI 프로파일도 사용자 교육, 실제 환경 평가, 구조화된 피드백, 지속 모니터링과 사고 대응을 운영 항목으로 제시합니다. 이는 수익률 계산에서 빼도 되는 부수비용이 아니라 안전하게 운영하기 위한 필수 비용입니다.
넷째는 실패와 변경 비용입니다. 잘못된 결과는 재작업, 고객 보상, 의사결정 지연과 보안·규제 위험을 만듭니다. 모델과 공급업체의 가격·정책이 바뀌면 재시험과 이전이 필요합니다. 성공한 업무에서는 5분을 줄였더라도 예외처리 건수가 두 배가 되면 전체 대기열은 더 느려질 수 있습니다.
CBA 공시는 성과와 측정 한계를 함께 보여줍니다
호주 커먼웰스은행(CBA)은 기술 투자와 AI 편익을 함께 공개해 좋은 사례가 됩니다. CBA의 2026 회계연도 기술 투자 총액은 24억호주달러로 전년 23억호주달러보다 늘었습니다. 이 증가는 생성형 AI만을 위한 비용이 아닙니다. 기술 인프라 개선, 보안과 복원력, AI 도구·직원 교육·AI용 인프라와 실제 사용 사례가 함께 포함된 넓은 기술 예산입니다.
CBA는 AI 사용 사례에서 측정한 총편익이 약 2억호주달러라고 밝혔습니다. 이 가운데 그해 새로 늘어난 편익은 약 1억호주달러였습니다. 다만 총편익에는 인력을 줄여 현금비용을 없앤 것뿐 아니라 다른 업무에 다시 투입한 여유 처리능력도 들어갑니다. CBA는 2027 회계연도 총편익이 두 배가 되고 해당 AI 사용 사례 투자액을 넘을 것으로 예상했지만, 이는 아직 실현되지 않은 회사 전망입니다.
따라서 2억을 24억으로 나눠 CBA의 AI 수익률이라고 부르면 안 됩니다. 24억은 AI 전용 비용이 아닌 전체 기술 투자이고, 2억은 현금 절감만이 아닌 총편익입니다. 분자와 분모의 범위가 다릅니다.
그렇다고 운영 성과가 의미 없다는 뜻은 아닙니다. CBA는 기술 변경 배포 증가, 주요 사고 감소, 복구시간 개선, 직원의 폭넓은 AI 사용과 에이전트 메시징의 86% 해결률을 함께 제시했습니다. 이 해결률은 사람 상담으로 넘기지 않고 대화를 끝낸 비율입니다. 투자자는 이 지표가 AI 때문에 얼마나 추가로 개선됐는지, 편익을 어떤 가격으로 평가했는지, 유지비용이 얼마인지, 언제 비용·매출·손실 감소로 재무제표에 나타나는지를 더 확인해야 합니다.
만든 초안 수보다 승인 결과물당 비용을 봅니다
월간 표에는 먼저 대상 업무 건수, AI를 사용한 건수와 최종 승인 건수를 적습니다. 다음으로 모델·플랫폼 비용, 담당자 확인시간, 예외처리, 재작업과 사고 비용을 더합니다. 이 합계를 프롬프트나 초안 수가 아니라 승인된 결과물 수로 나눕니다.
예를 들어 한 팀이 매달 1만 건을 처리하고, AI 도입 전 승인 건당 인건비와 시스템비가 12호주달러였다고 가정해 보겠습니다. 도입 뒤 모델·플랫폼 비용이 1.20호주달러, 일반 노동비가 7호주달러로 줄었지만 검수·재작업·예외처리에 2.50호주달러가 든다면 새 총비용은 10.70호주달러입니다. 승인 건당 1.30호주달러, 월 1만 3천호주달러를 아낀 셈입니다.
초기 개발과 통합비가 39만호주달러라면 단순 회수 기간은 30개월입니다. 그러나 처리량이 2만 건으로 두 배가 되고 재작업비가 건당 2호주달러 더 붙으면 비용은 10.70호주달러에서 12.70호주달러로 오릅니다. AI 도입 전보다 건당 0.70호주달러, 월 1만 4천호주달러를 더 쓰는 셈입니다. 승인률까지 떨어지면 결과는 더 나빠집니다. 이 숫자는 계산 방식을 설명하기 위한 예시이며 실제 기업은 자신의 처리량·임금·오류비용과 현금 발생시점을 넣어야 합니다.
속도와 품질은 항상 함께 측정합니다. 큰 수정 없이 승인된 비율, 배포 뒤 발견된 오류, 상위 담당자에게 넘어간 비율, 고객 결과와 최초 요청부터 최종 승인까지의 시간을 봅니다. 같은 품질과 위험 수준을 유지하면서 사람의 시간이나 비용을 줄이거나, 추가 비용보다 가치가 큰 결과를 만들 때만 생산성이 향상됐다고 할 수 있습니다.
처리능력과 현금 절감은 구분해야 합니다
AI가 주로 돌려주는 것은 직원 수가 아니라 몇 분의 시간인 경우가 많습니다. 그 시간을 더 많은 고객 응대, 서비스 개선이나 밀린 업무에 쓰면 편익은 있지만 당장 회계상 영업비용이 줄지는 않습니다. 모든 절약시간을 현금 절감으로 부르면 단기 이익을 과장하게 됩니다.
편익은 세 항목으로 따로 기록합니다. 첫째는 해지한 라이선스나 줄어든 외주비처럼 실제로 비용에서 빠진 현금입니다. 둘째는 추가 처리 건수처럼 다른 업무에 다시 투입된 처리능력입니다. 셋째는 사고·손실 감소 같은 품질과 위험 편익입니다. 같은 효과를 두 항목에 중복해서 넣지 않고, 일관된 가격을 적용할 수 있을 때만 합산합니다.
매출 편익도 AI가 없었다면 생기지 않았을 추가 거래의 이익만 잡아야 합니다. 도입부터 사용, 고객 결제까지의 시차도 반영합니다. 2년 회수 전망이라면 누적 생산성 숫자 하나가 아니라 월별 현금흐름을 보여주는 편이 낫습니다.
경영진에게 확인할 질문
어떤 업무에서 편익이 생겼고 AI 도입 전 기준선은 무엇이었는지 묻습니다. 토큰 가격이나 사용자 수보다 승인 결과물당 총비용을 요구합니다. 공시한 편익이 총액인지 순액인지, 실제 현금인지 재투입한 처리능력인지, 미래 비용 회피·추가 매출·위험 감소인지를 구분합니다.
지속성도 확인해야 합니다. 사용량이 단가 하락보다 빨리 늘어나는지, 담당자 확인과 재작업이 얼마나 남았는지, 공급업체가 모델·가격·데이터 정책을 바꾸면 어떤 비용이 생기는지 봅니다. 라이선스를 켠 직원 수를 실제 업무 대체로 오해해서도 안 됩니다.
마지막으로 재무제표와 맞춥니다. 현금 절감은 언젠가 영업비용 감소나 하지 않아도 된 설비투자로 나타나야 합니다. 매출은 이익률과 현금 회수 시점을 동반해야 합니다. 재투입한 처리능력은 처리량·대기시간·품질 개선으로 보여야 합니다. 운영지표와 회계 수치 어느 쪽에도 도달하지 않는 편익은 더 보수적으로 평가해야 합니다.
수익 주장이 설득력을 얻는 조건
승인 결과물당 총비용이 여러 기간 연속 하락하고, 품질과 사고율이 유지되거나 좋아지며, 총편익이 현금·처리량·손실 회피로 연결돼야 기업의 수익 주장이 설득력을 얻습니다. 모델이 바뀌어도 결과가 유지되고 특정 팀의 일시적 열의에만 의존하지 않는다면 근거는 더 강해집니다.
경고 신호는 사용량과 다단계 에이전트 호출이 단가 하락보다 빨리 늘고, 담당자 확인이 계속 많이 필요하며, 배포 뒤 오류비용이 나타나거나 기존 비용을 실제로 대체하지 못하는 경우입니다. 좁은 AI 편익을 넓은 기술 예산과 비교하거나 처리능력 추정치를 순이익처럼 제시해도 수익 계산은 성립하지 않습니다.
저렴한 토큰은 유리한 투입요소입니다. 기업 수익이 되려면 전체 업무가 오류와 위험 비용까지 포함하고도 더 적은 현금으로 더 많은 승인 결과물을 만들어야 합니다.
이 글은 일반적인 정보 제공을 위한 것이며 개인의 투자 목적, 재무상황이나 필요를 반영하지 않습니다.
출처
같은 렌즈로 이어 읽기