AI PoC는 통과했는데 운영 요금이 달라요, 결재 전에 무엇을 비교할까요

먼저 짧게 답부터 드릴게요. AI PoC 운영 전환 비용은 PoC 때의 요금표를 그대로 늘려서는 안 맞아요. 사용자와 호출 수가 늘고, 호출 하나에 붙는 문서와 대화도 길어지기 때문이에요. 이 글의 가정 예시(월 호출 600건 → 2만 건)에서는 호출이 33배, 토큰 요금이 약 55배가 됐고, 사람 검수 시간이 월 20시간만 돼도 토큰비의 3배 넘는 금액이 나왔어요. 결재 전에는 PoC와 운영을 같은 가정치 표에 올려 비교하고, 견적서에는 운영 가정치와 월 상한을 적어 두세요. 비교표와 계산식을 정리했어요.

PoC(개념 검증)에서는 “되네요”가 나왔는데, 운영 견적을 받아 보니 숫자가 전혀 다르다는 말을 자주 들어요. 이 글은 효과 측정이 아니라 요금을 어떻게 나란히 놓을지만 다뤄요.

---

1. PoC 요금은 왜 낮게 보일까요

PoC는 작게 돌려서 가능성을 보는 단계라서 요금이 낮게 나오도록 조건이 깔려 있어요.

• 사용자가 몇십 명이고 호출도 하루 몇십 건이에요
• 샘플 문서 몇백 건만 붙이고, 동시에 접속하는 사람이 거의 없어요
• 무료 크레딧이나 시범 계정으로 돌린 경우가 많아요
• 문제가 생기면 개발자가 바로 붙어서 손으로 고쳐요

마지막 항목이 특히 커요. PoC에서 공짜처럼 보였던 건 AI 요금이 아니라 사람의 수작업일 때가 많거든요. 가트너는 2024년 7월 보도자료에서 생성형 AI 프로젝트의 최소 30%가 2025년 말까지 PoC 이후 중단될 것으로 전망했고, 이유로 데이터 품질·리스크 통제와 함께 비용 증가와 불분명한 사업 가치를 들었어요(전망치예요). PoC 단계 비용과 도입 비용의 차이는 AI PoC 비용, 얼마면 검증할 수 있을까요에서 먼저 다뤘어요.

2. 운영으로 넘어가면 새로 생기는 비용은 무엇일까요

운영에서는 PoC에 없던 줄이 생겨요.

1. 호출량 × 단가: 사용자가 늘면 선형으로 늘어요
2. 대화 길이와 컨텍스트: 이전 대화와 첨부 문서를 매번 같이 보내서 건당 토큰이 늘어요
3. 검색 저장소: 문서를 찾아주는 벡터 DB(의미로 검색하는 저장소)와 저장 용량 비용이에요
4. 로그와 모니터링: 누가 무엇을 물었는지 남기고 이상을 감지하는 비용이에요
5. 보안·권한·감사 기록: 부서별 접근 제한과 기록 보관이에요
6. 사람 검수: 틀린 답을 거르는 시간이에요
7. 장애 대응: 야간·휴일 호출을 누가 받는지 정해야 해요
8. 개선 작업: 질문 유형이 바뀌면 프롬프트와 문서를 다시 손봐야 해요

이 중 6～8번은 AI 업체 청구서에 안 찍혀서 빠지기 쉬워요. 항목별 설명은 AI 기능 붙인 뒤 운영비, 어디서 늘어날까요에 있어요.

3. PoC 요금과 운영 요금, 한 표로 나란히 놓으면요

결재 문서에 그대로 옮길 수 있게 4열로 만들었어요.

항목	PoC 때	운영 때	결재 전에 물을 질문
사용자·호출 수	수십 명, 월 수백 건	전 직원 또는 고객, 월 수만 건	월 사용자와 호출 수를 몇으로 가정했나요
건당 토큰	샘플 질문 위주로 짧음	대화 누적·문서 첨부로 길어짐	PoC 때 평균 입력·출력은 얼마였나요
무료 크레딧	있는 경우가 많음	없음	크레딧을 뺀 실제 청구액은 얼마였나요
검색 저장소	샘플 문서	전체 문서와 갱신	문서량과 갱신 주기는 어떻게 되나요
사람 검수	개발자가 수시 확인	담당자 지정 필요	월 몇 시간, 누가 하나요
보안·감사	최소	접근 제한·기록 보관	감사 로그는 몇 개월 보관하나요
장애 대응	없음	응답 시간 약속 필요	평일 야간·휴일은 누가 받나요

(자사 실무 기준 예시예요. 업체와 구성에 따라 항목은 달라져요.)

4. 비교하려면 어떤 가정치를 같은 조건으로 넣을까요

비교가 어긋나는 가장 흔한 이유는 업체마다 다른 가정으로 견적을 내서예요. 아래 여섯 칸을 모든 견적에 똑같이 넣어 달라고 하세요.

가정치	PoC (예시)	운영 (예시)
월 사용자	30명	500명
사용자당 월 호출	20건	40건
월 호출 합계	600건	20,000건
건당 입력 토큰	3,000	6,000
건당 출력 토큰	500	600
월 사람 검수	수시(비용 미산정)	20시간

(전부 가정이에요. 토큰은 AI가 글을 읽고 쓰는 단위예요. 한국어는 글자 수보다 토큰이 많이 잡혀서 실제 값은 PoC 로그로 재야 해요.)

운영의 건당 입력이 두 배인 이유는 대화 이력과 첨부 문서가 붙는다고 가정해서예요.

5. 가정치를 넣으면 월 요금은 얼마나 달라질까요

단가도 가정으로 둘게요. 입력 100만 토큰당 1달러, 출력 100만 토큰당 5달러, 환율 1달러 1,400원이에요. 특정 업체 요금이 아니고, 계산 구조를 보여 드리려는 숫자예요.

구분	PoC	운영	배수
월 호출	600건	20,000건	33배
입력 토큰	180만 → 1.8달러	1억 2,000만 → 120달러
출력 토큰	30만 → 1.5달러	1,200만 → 60달러
월 토큰 요금	3.3달러 (약 4,620원)	180달러 (약 252,000원)	약 55배

호출은 33배인데 요금은 55배예요. 건당 토큰이 같이 늘었기 때문이에요.

그런데 사람 검수를 보면 그림이 달라져요. 검수자 노임을 KOSA(한국소프트웨어산업협회)가 공표한 2025년 적용 응용SW개발자 시간평균임금 42,133원으로 대신 쓰면, 월 20시간은 약 84만 2,700원이에요. 토큰비 약 25만 원의 3.3배예요(개발자 노임을 쓴 가정이라 실제 검수 인력 단가와는 달라요).

토큰비만 보고 “월 25만 원이면 싸다”고 결재하면, 청구서에 안 찍히는 사람 시간이 더 클 수 있어요. 에이전트처럼 한 번에 여러 번 호출하는 구조는 계산이 더 달라서 AI 에이전트 운영 비용, 토큰 요금만 보면 안 되는 이유에 건당 계산법을 따로 적었어요.

우리 PoC 로그로 운영 요금을 계산해 보고 싶다면 호출 수와 평균 토큰만 있으면 돼요. 직접 세어 보다 막히는 부분이 있으면 PoC 결과로 운영 요금 어림해 보기 →

6. 단가를 낮추는 공개된 방법에는 무엇이 있을까요

공식 문서에 있는 방법만 적을게요(Claude Platform 문서 기준, 2026-10 조회). 모델별로 배수가 다르니 계약 전에 해당 모델의 최신 요금표를 꼭 확인하세요.

방법	공식 문서의 내용	맞는 업무
배치 처리	입력·출력 토큰 50% 할인, 즉시 응답이 필요 없는 요청용	야간 요약, 일괄 분류
프롬프트 캐싱	캐시 적중 시 기본 입력 가격의 0.1배(일부 모델은 0.05배 등 더 낮음). 5분 캐시 쓰기는 1.25배, 1시간은 2배	매번 같은 지침·문서를 붙이는 챗봇
두 방법 병행	두 할인이 겹칠 수 있음. 단, 배치에서는 캐시 적중이 보장되지 않는 최선 노력 방식	대량 일괄 처리

위 가정 예시에 대보면요. 호출의 40%가 배치로 돌릴 수 있는 일이면 월 요금은 180달러에서 144달러로 줄어요. 입력의 70%가 캐시에 적중하면 입력비가 120달러에서 44.4달러가 돼 월 합계가 104.4달러(약 146,000원)예요. 캐시 쓰기 비용은 뺀 계산이라 실제로는 조금 더 나와요. 작은 모델로 쉬운 질문을 먼저 처리하는 분기도 같은 방향이지만 품질 시험이 필요해요.

OpenAI도 Batch API로 입출력 50% 할인을 안내하고 있어요. 다만 캐시 할인율은 모델마다 달라서, 이 부분은 숫자를 적지 않을게요. 지출 한도를 관리 화면에서 거는 방법은 팀별 AI 지출, 이제 관리 콘솔에서 잡아요에서 이어서 볼 수 있어요.

7. 결재 문서에는 한 장으로 어떻게 정리할까요

결재자는 구조를 길게 읽지 않아요. 이 다섯 줄이면 돼요.

1. PoC 실측: 월 호출, 평균 입력·출력 토큰, 크레딧을 뺀 청구액
2. 운영 가정: 월 사용자, 사용자당 호출, 건당 토큰 증가분(근거 포함)
3. 운영 월 요금 범위: 낙관·기준·보수 세 가지 숫자
4. 청구서에 안 찍히는 비용: 검수 시간, 장애 대응, 개선 작업
5. 월 상한과 초과 시 절차: 상한 금액, 알림 기준, 초과 시 협의

세 시나리오를 쓰는 이유는 하나예요. 사용자가 예상의 두 배로 늘 때 결재를 다시 받을지 미리 정해 두려는 거예요.

8. 외주 견적서에 운영 가정치와 월 상한은 어떻게 넣을까요

개발사에 견적을 받을 때 이 네 가지를 문서에 써 달라고 하세요.

• 운영 가정치 표: 위 4번의 여섯 칸을 그대로 쓰고, 개발사가 다른 값을 쓰면 이유를 적게 해요
• AI 사용료 구분: 개발비와 AI 사용료(월 변동비)를 따로 적게 해요. 합쳐 적으면 나중에 누가 부담하는지 다퉈요
• 월 상한과 알림: 월 상한 금액, 75% 도달 시 알림, 초과 시 사전 협의 문구예요
• 운영 인력 범위: 유지보수 요율이 무엇을 포함하는지 확인하세요. 요율 기준은 유지보수 비용은 얼마를 잡아야 할까요에 정리했어요

저희가 자체 SaaS를 직접 운영해 보니 사용량은 기획서가 예상하지 못한 곳에서 먼저 늘곤 했어요. 그래서 상한과 알림 기준을 처음부터 정해 둬야 숫자가 흔들려도 사람이 당황하지 않아요.

9. 자주 묻는 질문 (FAQ)

AI 플랫폼 도입 전에 PoC에서 뭘 확인해야 하나요?

정확도만 보지 말고 운영 요금을 계산할 재료를 같이 남겨 두세요. 건당 평균 입력·출력 토큰, 호출 한 번에 붙는 문서량, 사람이 고친 비율, 실패 후 재시도 횟수예요. 이 네 값이 있으면 월 사용자 수만 바꿔서 운영 요금을 계산할 수 있어요.

PoC 요금이 낮았는데 운영 요금은 얼마나 늘어나나요?

업체마다 달라서 일반 배수는 없어요. 이 글의 가정 예시에서는 월 호출이 33배, 토큰비는 약 55배가 됐어요. 직접 비교하려면 PoC 때 측정한 건당 토큰에 운영 사용자 수를 곱해 보세요.

운영 요금에 월 상한을 둘 수 있나요?

둘 수 있어요. 견적서와 계약서에 월 예상 호출 수와 월 상한 금액을 같이 적고, 상한의 75%에 닿으면 알림을 보내며 초과분은 사전 협의한다는 문구를 넣으면 돼요. 상한이 없으면 사용량이 늘 때 청구서로 처음 알게 돼요.

---

저희는 10년 넘게 50개 이상의 프로젝트를 만들었고 자체 SaaS 4종을 직접 운영해 온 개발사예요. 롯데·캐논 같은 곳과도 함께해 왔고요. 그래서 AI 도입 견적을 볼 때 개발비보다 운영 가정치가 적혀 있는지, 월 상한이 있는지를 먼저 봐요. PoC 로그가 있다면 운영 요금 가정치 표를 같이 채워 볼까요 →

출처: Claude Platform 공식 문서 요금·배치 처리·프롬프트 캐싱 페이지(2026-10 조회), OpenAI 요금 안내의 Batch API 50% 할인, Gartner 보도자료(2024-07-29), KOSA 「2025년 적용 SW기술자 평균임금」 공표. 단가·환율·사용량은 이 글에서 계산 구조를 보이기 위한 가정이에요.