AI 에이전트 운영 비용, 토큰 요금만 보면 안 되는 이유 | 건당 계산법

먼저 짧게 답부터 드릴게요. AI 에이전트 운영 비용은 처리 건수 × 건당 완료 비용 + 월 고정비로 잡아요. 저희가 월 3,000건짜리 문의 처리 에이전트로 가정해 계산해 보니 한 달 약 538만 원이 나왔고, 그중 모델 토큰 요금은 약 76만 원(14%) 이었어요. 나머지는 검색 도구 요금, 실패 뒤 재시도, 사람 검토 시간, 로그·권한·회귀 테스트 같은 고정비예요. 숫자는 가정이지만, 토큰 요금만으로 예산을 세우면 어디가 비는지는 분명하게 보여요.

“토큰 단가가 100만 개에 2달러면, 한 달에 몇십만 원이면 되는 거 아니에요?”

사내 AI 에이전트 도입을 검토하는 분들께 자주 듣는 질문이에요. 계산 자체는 틀리지 않았어요. 다만 그 숫자는 모델이 글자를 읽고 쓴 값일 뿐이고, 에이전트가 일 한 건을 끝까지 마치는 데 드는 돈은 그보다 훨씬 커요. 이 글은 그 차이를 항목별로 나눠 월 운영비 계산식으로 정리한 거예요.

---

1. AI 에이전트 운영 비용은 한 달에 얼마로 잡아야 할까요

한 달 예산은 건수 × 건당 완료 비용 + 고정비 하나로 잡으면 돼요. 여기서 “건당 완료 비용”은 모델 요금이 아니라, 에이전트가 맡은 일 하나를 사람이 다시 손대지 않아도 될 상태로 끝내기까지 쓴 돈 전부예요.

이렇게 나누는 이유는 간단해요. 모델 단가는 공개돼 있어 누구나 계산할 수 있지만, 실제 청구서와 인건비를 흔드는 건 단가표에 없는 항목이거든요. 가트너(Gartner)는 2025년 6월 발표에서 에이전트형 AI 프로젝트의 40% 이상이 2027년 말까지 중단될 것이라고 봤는데, 첫 번째 이유로 든 게 불어나는 비용이었어요. 나머지 둘은 불분명한 사업 가치와 부족한 위험 통제였고요.

표시 단가와 실제 청구서가 왜 다르게 찍히는지는 벤치마크 1등 모델이 청구서도 1등일까요에서 다뤘어요. 이 글은 그 다음 단계, 모델 바깥에서 붙는 돈을 봐요.

2. 왜 ‘건당 완료 비용’으로 계산해야 할까요

에이전트 한 건은 모델 호출 한 번으로 끝나지 않아요. 문의 하나를 처리한다고 하면 보통 이런 흐름이에요.

1. 문의를 읽고 분류해요
2. 사내 문서나 웹을 검색해요
3. 답변 초안을 쓰고 스스로 점검해요
4. 조건에 걸리면 사람에게 확인을 받아요
5. 끝내 못 풀면 사람에게 통째로 넘겨요

이 다섯 단계마다 돈의 성격이 달라요. 1·3단계는 토큰, 2단계는 도구 요금, 4·5단계는 사람 시간이에요. 그래서 “호출 1회당 얼마”로 세면 2·4·5단계가 통째로 빠지고, “월 토큰 사용량”으로 세면 사람이 일을 이어받은 건까지 에이전트 성과로 잡혀요.

반대로 완료된 건 하나당 얼마로 세면 두 가지가 같이 보여요. 에이전트가 얼마나 싸게 일하는지, 그리고 얼마나 자주 사람을 부르는지요. 사람보다 비싸지는 지점을 판단하는 방법은 AI 에이전트가 사람보다 비싸지는 지점에 따로 정리해 뒀어요.

3. 토큰 말고 요청마다 붙는 돈은 무엇일까요

가장 먼저 빠뜨리는 게 도구 호출 요금이에요. 에이전트가 웹을 검색할 때마다 토큰과 별도로 과금돼요. 2026년 9월 30일 기준 각 사 공식 가격 페이지 값은 이래요.

공식 가격 기준 — 모델·도구 요금 (2026-09-30 확인, 미국 달러)

항목	공식 요금	비고
중간 등급 모델 (Anthropic Claude Sonnet 5 / OpenAI gpt-6-sol)	입력 100만 토큰 2달러 · 출력 10달러	두 회사 표시 단가가 같아요
웹 검색 (Anthropic · OpenAI)	1,000회당 10달러 + 검색 결과 토큰	결과가 입력 토큰으로 다시 과금돼요
구글 검색 그라운딩 (Gemini 3.x)	월 5,000회 무료, 이후 1,000회당 14달러	무료분은 모델 전체가 공유해요
도구 정의 토큰 (Anthropic 브라우저 조작 도구)	요청마다 입력 약 6,600토큰 추가	쓰지 않아도 선언만 하면 붙어요
관리형 에이전트 실행 시간 (Anthropic)	세션 1시간당 0.08달러	토큰 요금과 별도예요

검색 요금 자체는 1회 1～1.4센트라 작아 보여요. 그런데 검색 결과가 다시 입력 토큰으로 들어가요. 에이전트가 한 건에 검색을 세 번 하고 결과를 매번 대화에 쌓으면, 뒤로 갈수록 한 번 호출할 때 읽는 양이 늘어요. 도구 정의도 마찬가지예요. 도구를 여러 개 붙여 두면 쓰든 안 쓰든 요청마다 설명문이 입력 토큰으로 붙어요.

그래서 에이전트 견적을 받을 때는 “어떤 도구를 몇 개 붙이는지”, “건당 검색을 평균 몇 번 하는지”를 꼭 물어보세요. 이 두 숫자가 없으면 토큰 추정도 틀려요.

4. 실패와 재시도는 청구서에 어떻게 찍힐까요

실패한 시도도 토큰은 다 과금돼요. 에이전트가 답을 잘못 만들어 스스로 다시 쓰거나, 외부 API가 오류를 내 처음부터 다시 돌면, 그 건은 비용을 두 번 쓰고 결과는 하나만 남아요.

여기서 주의할 점이 두 가지예요.

• 재시도에 상한이 없으면 비용이 한 건에 몰려요. 같은 오류가 반복되는 입력 하나가 수십 번 돌 수 있어요. 건당 최대 재시도 횟수와 건당 최대 토큰을 정해 두는 이유예요.
• 재시도가 성공해도 결과가 중복될 수 있어요. 메일 발송이나 글 게시처럼 밖으로 나가는 일은 “이미 처리됐는지”를 먼저 확인하는 장치가 없으면 두 번 나가요.

저희도 자체 서비스를 운영하면서 외부 서비스가 일시적으로 실패하는 일을 자주 봐요. 이런 오류는 대개 시간을 두고 다시 하면 풀리는데, 그렇다고 바로 계속 다시 시도하게 두면 비용과 중복만 늘어요. 몇 번까지, 얼마 간격으로, 어떤 작업은 절대 다시 하지 않을지를 정해 두는 게 운영비를 지키는 쪽이에요. 계산할 때는 재시도로 늘어나는 몫을 변동비에 몇 % 얹는 식으로 잡으면 돼요.

5. 사람 검토 시간은 얼마로 환산할까요

사람 검토는 보통 토큰 요금보다 커요. 환산 기준은 한국소프트웨어산업협회(KOSA)가 공표한 2026년 SW기술자 일평균임금 414,762원을 쓰면 편해요. 하루 8시간으로 나누면 시간당 약 51,845원, 분당 약 864원이에요.

이 기준으로 보면 이래요.

• 결과 10건 중 3건을 사람이 3분씩 확인하면, 전체 건당 평균 약 778원이에요.
• 에이전트가 못 끝낸 건 5%를 사람이 10분씩 처리하면, 전체 건당 평균 약 432원이 더해져요.

둘을 합치면 건당 약 1,210원이에요. 같은 가정에서 모델·검색·재시도 비용이 건당 약 322원이니까(§7 표), 사람 몫이 기계 몫의 네 배 가까이 돼요.

그래서 ai 에이전트 도입 효과를 따질 때는 “사람이 얼마나 덜 봐도 되는가”가 모델 단가보다 큰 변수예요. 검토 비율을 30%에서 15%로 줄이면 모델을 한 단계 싼 걸로 바꾸는 것보다 절감 폭이 커질 수 있어요. 어디서 사람이 멈춰 확인해야 하는지는 에이전트에 권한을 줄 때 정할 4가지가 참고가 될 거예요.

6. 매달 고정으로 나가는 돈은 무엇일까요

건수와 상관없이 매달 나가는 돈도 있어요. 작은 에이전트일수록 이 몫의 비중이 커요.

• 실행 로그·관측 저장 — 에이전트가 무엇을 읽고 어떤 도구를 불렀는지 남겨야 문제가 생겼을 때 원인을 찾아요. 로그 저장·조회 도구 비용과 보관 기간을 정해야 해요.
• 권한·계정 관리 — 에이전트가 쓰는 API 키, 사내 시스템 계정, 인증 토큰은 만료되고 갱신돼요. 만료를 놓치면 에이전트가 조용히 멈춰요. 담당자 시간이 매달 들어요.
• 모델 버전 교체 뒤 회귀 테스트 — 모델 단가와 버전은 바뀌어요. 구글 Gemini 3.8 Flash는 입력 100만 토큰당 0.75달러가 2027년 1월 1일부터 1.5달러로 오른다고 공식 가격 페이지에 적혀 있어요. 단가가 오르든 새 모델로 옮기든, 기존 업무를 똑같이 해내는지 다시 확인하는 시간이 필요해요.
• 월 사용량 상한과 알림 — 설정 자체는 한 번이지만, 알림을 누가 받고 한도에 걸리면 어떻게 할지 정하는 운영 규칙이 있어야 해요.

모델 교체 때 무엇을 다시 해야 하는지는 AI 기능 붙인 뒤 운영비, 어디서 늘어날까요에서 AI 기능 전반을 기준으로 정리했어요. 에이전트는 여기에 도구 권한과 실행 로그가 더 붙는다고 보면 돼요.

7. 월 3,000건 에이전트로 직접 계산해 보면

아래는 가정으로 만든 계산 예시예요. 사내 문의를 분류하고 답변 초안을 쓰는 에이전트가 한 달 3,000건을 처리한다고 뒀어요.

가정값 — 건당 입력 60,000토큰·출력 6,000토큰(대화가 쌓이는 여러 차례 호출 합계) · 중간 등급 모델(2달러/10달러) · 건당 웹 검색 2회 · 재시도로 변동비 15% 증가 · 환율 1달러=1,400원 · 사람 검토 30% × 3분 · 사람 인계 5% × 10분 · 분당 인건비 864원(KOSA 2026 일평균임금 기준).

자사 실무 기준 — 월 운영비 계산 예시 (저희 경험 기준이고 통계가 아니에요. 업무마다 숫자는 크게 달라요)

항목	계산	월 금액	비중
모델 토큰	건당 0.18달러 × 3,000건	약 75.6만 원	14%
웹 검색·재시도	건당 0.02달러 추가, 합계에 15% 얹음	약 21만 원	4%
사람 검토	30% × 3분 × 864원 × 3,000건	약 233만 원	43%
사람 인계	5% × 10분 × 864원 × 3,000건	약 130만 원	24%
로그·관측 도구	가정값	30만 원	6%
회귀 테스트	분기 1회 개발자 2일 → 월 환산	약 27.7만 원	5%
권한·계정 관리	월 4시간	약 20.7만 원	4%
합계		약 538만 원	전체

건당 완료 비용으로 나누면 약 1,790원이에요. 토큰 요금만 보고 세운 예산(약 76만 원)과 비교하면 7배쯤 차이가 나요.

이 표에서 읽을 건 금액보다 비중이에요. 사람 검토와 인계가 67%를 차지하니까, 비용을 줄이려면 모델 단가보다 검토 비율과 인계 비율을 먼저 봐야 한다는 뜻이에요. 반대로 사람이 거의 안 보는 업무라면 토큰과 검색이 커지고, 그땐 모델을 계층으로 나누는 방법이 더 잘 들어요.

용어 한 줄 풀이 회귀 테스트는 무언가를 바꾼 뒤 예전에 잘 되던 일이 여전히 잘 되는지 다시 확인하는 시험이에요. 에이전트에선 모델·프롬프트·도구가 바뀔 때마다 필요해요.

8. 견적서와 계약서에 무엇을 넣어야 할까요

에이전트 개발을 맡길 때 견적서에 개발비만 있고 운영비 항목이 없다면, 오픈 다음 달부터 예산이 어긋나요. 아래 항목이 들어 있는지 확인해 보세요.

자사 실무 기준 — 발주 전 운영비 체크리스트

항목	견적서·계약서에 적을 한 줄
건당 완료 비용 측정	”완료”의 정의(사람 수정 없이 끝난 건)와 측정 방법
도구 목록	붙일 도구 이름과 건당 평균 호출 횟수 추정
재시도 규칙	건당 최대 재시도 횟수, 다시 하면 안 되는 작업 목록
사람 검토 기준	어떤 조건에서 사람에게 넘기는지, 목표 검토 비율
사용량 상한	건당·일·월 상한, 알림 받는 사람, 초과 시 동작
실행 로그	무엇을 남기는지, 보관 기간, 누가 볼 수 있는지
권한·계정	에이전트 전용 계정 여부, 인증 만료 관리 담당
모델 교체	교체 시 회귀 테스트 범위와 비용 부담 주체

PoC 단계라면 이 중 건당 완료 비용, 검토 비율, 인계 비율 세 가지만 실제로 재 봐도 충분해요. “AI 플랫폼 도입 전에 PoC에서 뭘 확인해야 하나요”라는 질문에 저희가 드리는 답도 결국 이 세 숫자예요. PoC 예산 감각은 AI PoC 비용, 얼마면 검증할 수 있을까요에 있어요.

사내 AI 에이전트를 기획 중인데 받은 견적에 운영비가 한 줄로만 적혀 있다면, 위 표를 채워 보는 것부터 같이 해 볼 수 있어요. 저희는 10년 넘게 50개 이상의 프로젝트를 진행했고, 자체 SaaS 4종을 직접 운영하면서 외부 API 오류·인증 만료·사용량 급증 같은 일을 매달 겪고 있어요. 롯데·캐논 같은 곳과도 함께해 왔고요. 에이전트 월 운영비를 건당 기준으로 같이 계산해 보기 →

9. 자주 묻는 질문 (FAQ)

AI 에이전트 운영 비용에서 토큰 요금은 보통 몇 %인가요?

업무마다 달라서 정해진 비율은 없어요. 저희 가정 계산(월 3,000건, 사람 검토 30%)에선 14% 였어요. 사람이 결과를 자주 확인하는 업무일수록 토큰 비중은 작아지고, 사람이 거의 안 보는 자동 처리 업무일수록 커져요.

건당 완료 비용은 PoC에서 어떻게 재나요?

PoC 기간에 처리한 건을 사람 수정 없이 끝난 건 / 사람이 고친 건 / 사람이 넘겨받은 건으로 나눠 세요. 그 기간의 모델·도구 청구액과 검토에 쓴 시간(분)을 더한 뒤 “사람 수정 없이 끝난 건”으로 나누면 돼요. 표본은 최소 수백 건은 돼야 비율이 흔들리지 않아요.

월 사용량 상한을 걸면 에이전트가 멈추지 않나요?

멈춰요. 그래서 상한은 멈추는 조건과 그 뒤의 처리를 같이 정해야 해요. 예를 들어 월 한도의 80%에서 담당자에게 알리고, 한도를 다 쓰면 새 건은 사람 대기열로 보내는 식이에요. 상한 없이 두면 오류 하나가 반복될 때 한 달 예산이 며칠 만에 빠질 수 있어요.

출처: Anthropic Claude API 가격 문서(platform.claude.com, 2026-09-30 확인) · OpenAI API 가격 문서(developers.openai.com, 2026-09-30 확인) · Google Gemini API 가격 문서(ai.google.dev, 2026-09-30 확인) · Gartner 보도자료 “Over 40% of Agentic AI Projects Will Be Canceled by End of 2027”(2025-06-25) · 한국소프트웨어산업협회 2026년 SW기술자 평균임금. 계산 예시는 가정값이며 자사 실거래 통계가 아니에요.