AI 에이전트가 사람보다 비싸지는 지점 | 예산 판단 기준
AI 에이전트에 예산을 얼마까지 태워야 할까요. METR이 사람과 AI의 비용이 같아지는 '지출 지평' 지표를 내놨어요. 사람은 1% 개선에 약 2,500달러, 에이전트는 1만 달러를 넘기면 역전됐어요. 도입 예산 나누는 기준을 정리했어요.
📰 2026년 7월 28일 기준 최신 소식 | 이 글은 특정 시점의 뉴스를 다루고 있어요.
“AI 에이전트한테 맡겼는데, 이게 지금 남는 장사인가요?”
요즘 도입 담당자분들께 가장 많이 듣는 질문이에요. 붙이긴 붙였는데 청구서를 보면 이걸 사람이 했을 때보다 싼 건지 알 수가 없다는 거죠. 마침 이 질문을 정면으로 다룬 지표가 나왔어요.
1. AI 평가 기관이 ‘비용이 뒤집히는 지점’을 계산했어요
AI 성능 평가 기관 METR이 지출 지평(expenditure horizon)이라는 지표를 공개했어요. 같은 성과를 내는 데 AI가 쓴 돈과 사람이 쓴 돈을 한 통화로 환산해서, 두 비용이 같아지는 예산 지점을 찾는 방식이에요.
핵심은 이거예요. 예산이 그 지점보다 아래면 AI가 싸고, 위로 넘어가면 사람이 싸요. 성능 곡선이 아니라 비용 곡선 두 개가 교차하는 자리를 본다는 게 기존 벤치마크와 다른 점이에요.
2. 실제로 어디서 교차했을까요
METR은 NanoGPT 속도 개선 과제로 실험했어요. 사람이 성능을 1% 끌어올리는 데 드는 인건비를 대략 2,500달러로 추산했고, 같은 과제를 에이전트에 맡겨 돌렸어요.
결과가 흥미로워요. 예비 측정에서 나온 지출 지평은 0～3천 달러 구간이었어요. 1만 달러 넘게 태운 뒤에 나온 수치예요. 즉 초반 몇 천 달러 구간까지는 에이전트가 앞섰지만, 예산을 더 넣을수록 사람 쪽이 유리해졌다는 뜻이에요.
| 구간 | 누가 유리한가 | 이유 |
|---|---|---|
| 저예산·단순 반복 | AI 에이전트 | 사람보다 빠르고 건당 단가가 낮아요 |
| 교차 구간 | 비슷함 | 재시도 비용이 붙기 시작해요 |
| 고예산·난이도 상승 | 사람 | 막히면 에이전트는 같은 시도를 반복해요 |
위 수치는 METR이 특정 과제로 측정한 예비 결과예요. 업무 종류가 다르면 교차점도 달라지니 그대로 옮겨 쓰기보다 판단 틀로 보시는 게 맞아요.
3. 왜 예산을 키울수록 역전될까요
에이전트는 막히면 비슷한 시도를 계속 반복해요. 사람은 세 번쯤 실패하면 접근 자체를 바꾸는데, 에이전트는 같은 방향으로 더 밀어붙이는 경우가 많거든요.
그래서 쉬운 일에서는 격차가 크게 벌어지고, 난이도가 올라가면 재시도 비용이 쌓여요. 한 건을 끝내는 데 실제로 든 비용은 성공한 호출만이 아니라 실패하고 다시 부른 횟수까지 더한 값이에요. 대시보드에서 평균 단가만 보면 이 부분이 안 보여요.
4. 그래서 예산은 ‘총액’이 아니라 ‘건당 상한’으로 잡아요
월 얼마라는 총액만 정해두면 어려운 작업 몇 건이 예산을 다 먹어요. 실무에서는 이렇게 나눠요.
- 그 업무를 사람이 처리할 때 드는 비용을 먼저 계산해요.
- 에이전트 한 건당 상한을 그 아래로 걸어요.
- 상한에 닿으면 자동으로 멈추고 사람에게 넘겨요.
- 넘어간 건수를 주 단위로 세요.
넘어가는 비율이 계속 올라가면 그 업무는 애초에 에이전트가 맡을 구간이 아니었던 거예요. 이 판단은 ai 모델링 최적화 비용을 줄이려고 모델을 바꾸기 전에 먼저 해야 해요. 모델을 올려도 업무 자체가 교차점 위에 있으면 비용만 늘어나거든요.
5. 업무를 난이도로 쪼개면 교차점이 올라가요
통째로 맡기면 어려운 부분 때문에 전체가 비싸져요. 같은 일이라도 분류·추출·요약처럼 정해진 조각과 판단이 필요한 조각을 나누면 앞쪽은 계속 AI가 싼 구간에 남아요.
저희가 자체 SaaS 4종을 운영하면서 붙인 AI 기능도 이 순서로 갔어요. 처음부터 끝까지 맡기려다 비용이 튀었고, 결국 정해진 절차 부분만 떼어내고 판단은 사람이 쥐는 구조로 정리하면서 안정됐어요. 고객 데이터를 다루는 cdp ai 영역은 특히 그랬어요. 데이터 정리는 자동화가 잘 붙었지만, 어떤 세그먼트를 만들지는 사람이 정하는 게 결과도 비용도 나았어요.
AI 도입 방향을 잡는 중이시라면 어디에 붙일지부터 같이 정리해봐요 →
6. 계약서에는 어떻게 반영할까요
외부에 개발을 맡기신다면 계약 단계에서 세 가지는 적어두시는 게 좋아요.
- 호출량 기준과 초과 시 정산 방식 — 월 몇 건까지가 기본 범위인지 없으면 나중에 다툼이 생겨요.
- 건당 상한과 사람 전환 조건 — 어느 시점에 멈추고 넘길지 미리 정해요.
- 비용·성공률 로그 제공 — 이 데이터가 없으면 교차점을 계산할 수가 없어요.
세 번째가 자주 빠져요. 운영을 시작하고 나서 요청하면 구조를 다시 손봐야 해서 시간이 걸려요.
7. 지금 확인해볼 것들
이미 에이전트를 돌리고 계시다면 이번 주에 이 정도는 뽑아보실 수 있어요.
- 업무별 건당 평균 비용(재시도 포함)
- 업무별 성공률과 사람 전환 건수
- 같은 업무를 사람이 할 때의 시간·인건비 환산값
세 숫자를 나란히 놓으면 어떤 업무가 이미 교차점을 넘었는지 바로 보여요. 넘은 업무는 자동화를 포기하는 게 아니라 더 작은 조각으로 쪼개는 쪽이 맞아요.
8. 자주 묻는 질문
지출 지평은 모든 업무에 그대로 적용되나요
아니에요. METR이 측정한 값은 특정 최적화 과제 기준이고, 문서 처리나 고객 응대처럼 성격이 다른 업무는 교차점도 다르게 나와요. 지표 자체보다 비용 곡선을 두 개 그려서 비교한다는 접근을 가져오시는 게 실용적이에요.
모델을 저렴한 걸로 바꾸면 해결되나요
부분적으로만요. 단가를 낮추면 교차점이 위로 올라가긴 해요. 다만 성능이 떨어져 재시도가 늘면 오히려 총비용이 커지는 경우가 있어요. 단가와 성공률을 같이 봐야 판단이 서요.
사람이 더 싸다면 도입을 접어야 하나요
그럴 필요는 없어요. 대개는 업무 전체가 아니라 일부 조각만 교차점을 넘은 상태예요. 그 조각만 사람에게 돌리고 나머지는 그대로 두는 편이 실익이 커요.
9. 마무리
AI 도입에서 어려운 건 모델을 고르는 일이 아니라 어디까지 맡길지 선을 긋는 일이에요. 이번 지표가 유용한 이유도 성능이 아니라 그 선을 숫자로 그을 근거를 준다는 데 있어요.
저희는 10년 이상 50개가 넘는 프로젝트를 진행하고 자체 SaaS 4종을 직접 운영해온 개발사예요. 롯데·캐논 같은 곳과도 함께해 왔고요. AI를 업무에 붙여서 운영까지 해봤기 때문에, 어디서 비용이 튀는지도 겪어서 알고 있어요. 도입 범위를 어떻게 잘라야 할지 정리가 안 되신다면 현재 업무 기준으로 함께 짚어드릴게요 →
관련 글