AI 속도가 요금제가 됐어요 | 14배가 바꾸는 것
OpenAI가 GPT-5.6 Sol을 최대 14배 빠르게 돌리는 Ultrafast 미리보기를 공개했어요. 초당 750토큰이고, 2,500문항 시험은 78시간에서 11시간으로 줄었어요. 속도가 별도 등급이 되면 발주 견적에 무엇을 숫자로 적어야 하는지 정리했어요.
📰 2026년 8월 15일 기준 최신 소식 | 이 글은 특정 시점의 뉴스를 다루고 있어요.
핵심 요약 — OpenAI가 GPT-5.6 Sol을 최대 14배 빠른 속도로 돌리는 Ultrafast 모드를 미리보기로 열었어요. 초당 750토큰까지 나오고, 2,500문항짜리 시험을 78시간 27분 걸리던 걸 11시간 11분에 끝냈어요. 눈여겨볼 건 속도만 다른 등급이 따로 생겼다는 점이에요. 성능이 아니라 기다리는 시간을 파는 상품이 나왔다는 뜻이라, 발주 단계에서 정해야 할 항목이 하나 늘었어요. 매일 서비스를 돌려보는 개발사 관점에서 정리했어요.
“이거 왜 이렇게 오래 걸려요?”
AI 기능을 붙인 화면을 처음 보여드리면 열에 여덟은 이 말을 하세요. 결과는 잘 나왔는데 15초를 기다렸거든요. 데모에서는 참아주시지만 실제 사용자는 안 기다려요.
그동안 이 문제는 대체로 설계로 풀었어요. 기다리게 하지 말고 뒤에서 돌린 다음 알려주는 식으로요. 그런데 이번 주 발표를 보니 그 전제가 흔들릴 수 있겠더라고요.
1. 같은 지능, 속도만 다른 등급이 나왔어요
8월 13일에 OpenAI가 Ultrafast라는 모드를 미리보기로 공개했어요. GPT-5.6 Sol을 최대 14배 빠르게 돌리는 등급이에요.
중요한 건 더 똑똑해진 게 아니라는 점이에요. 같은 모델, 같은 답, 나오는 시간만 달라요. 그동안 등급을 나눌 때는 성능이 기준이었어요. 어려운 일은 비싼 모델, 쉬운 일은 싼 모델. 그런데 이번엔 축이 하나 더 생겼어요.
속도가 별도 상품이 되면 발주 단계에서 질문이 바뀌어요. “어떤 모델을 쓸까요”에 “몇 초 안에 끝나야 하나요”가 붙어요.
2. 14배는 실제로 어느 정도일까요
숫자로 보면 이렇게 나와요.
공개된 발표·보도 자료 기준 (2026년 8월, 자사 측정치 아님)
| 항목 | 값 |
|---|---|
| 최대 출력 속도 | 초당 약 750토큰 |
| 표준 등급 대비 | 최대 14배 |
| 2,500문항 시험 소요 | 11시간 11분 (비교 대상 모델은 78시간 27분) |
| 제공 방식 | 일부 고객 대상 미리보기 |
| 처리 하드웨어 | Cerebras 웨이퍼 스케일 칩 |
78시간이 11시간으로 줄었다는 건 사흘 걸리던 일이 반나절이 됐다는 뜻이에요. 밤새 돌려놓고 다음 날 확인하던 작업을 점심 전에 받아볼 수 있게 되는 정도의 차이예요.
속도가 빨라진 원리도 짚어둘 만해요. Cerebras 칩은 44GB 메모리를 칩 안에 두고 있어요. 보통은 계산할 때마다 바깥 메모리에서 값을 실어 오는데 그 왕복이 병목이거든요. 그 왕복을 없앤 구조예요.
3. 기다리게 할 것인가, 기다리지 않게 할 것인가
여기서부터가 발주자에게 실제로 걸리는 이야기예요.
AI 기능을 붙일 때 저희가 처음 정하는 건 모델이 아니라 기다리는 방식이에요. 갈래가 둘이에요.
화면에서 기다리게 하는 방식. 버튼을 누르면 그 자리에서 결과가 떠요. 만들기 단순하고 쓰기도 편해요. 대신 오래 걸리면 사용자가 나가버려요.
뒤에서 돌리고 알려주는 방식. 접수만 받고 끝나면 알림을 보내요. 몇 분이 걸려도 괜찮아요. 대신 접수 목록, 진행 상태, 실패 시 재시도, 알림까지 붙어서 개발 범위가 통째로 늘어요.
이 경계가 대략 몇 초쯤에 있냐면, 실무에서는 10초 안팎을 기준으로 잡는 경우가 많아요. 그래서 응답이 빨라지면 두 번째 방식으로 만들어야 했던 기능 일부가 첫 번째로 내려와요. 개발 범위가 줄어드는 자리가 생긴다는 뜻이에요.
용어 정리 — 화면에서 기다리는 방식을 동기 방식, 뒤에서 돌리고 알려주는 방식을 비동기 방식이라고 불러요. 견적서에는 보통 “실시간 처리”와 “배치 처리”로 적히는데, 같은 기능이어도 어느 쪽이냐에 따라 화면 수와 개발 기간이 달라져요. 실무에서는 “이건 기다릴 수 있는 일인가요”라고 물어보고 정해요.
4. 그런데 모델이 빨라져도 화면은 덜 빨라져요
이 부분은 기대치를 미리 낮춰두는 게 좋아요.
사용자가 버튼을 누르고 결과를 볼 때까지의 시간에서 모델이 답을 만드는 구간은 전체의 일부예요. 앞뒤에 이런 게 붙어요.
- 우리 데이터베이스에서 필요한 자료를 꺼내 오는 시간
- 그 자료를 모델이 읽을 수 있게 정리하는 시간
- 모델이 답을 만드는 시간
- 나온 답이 형식에 맞는지 확인하고 저장하는 시간
- 화면에 그리는 시간
모델 구간이 10초에서 1초가 돼도 앞뒤가 6초면 16초에서 7초로 바뀌는 정도예요. 절반 넘게 줄었으니 큰 개선이지만 14배는 아니죠.
그래서 속도를 개선하려면 구간을 나눠서 재보는 일이 먼저예요. 저희가 AI 기능 성능을 볼 때 가장 먼저 하는 것도 이거예요. 어느 구간이 가장 긴지 모르면 비싼 등급을 켜놓고도 별로 안 빨라지는 일이 생겨요. 고객 데이터를 모아 쓰는 CDP AI 기능처럼 자료를 많이 꺼내 오는 경우라면 특히 그래요.
5. 견적서에는 속도를 어떻게 적을까요
“빠르게 해주세요”는 견적이 안 나오는 문장이에요. 만드는 쪽에서 어디까지 손대야 할지 판단할 수 없거든요.
숫자로 적으면 이렇게 돼요.
요구사항에 적어두면 좋은 네 줄
| 항목 | 적는 방식 예시 |
|---|---|
| 목표 응답 시간 | 열 번 중 아홉 번은 5초 안에 |
| 최대 허용 시간 | 15초를 넘으면 실패로 처리하고 안내 |
| 동시 사용 인원 | 점심시간에 20명이 동시에 눌러도 유지 |
| 느려질 때 처리 | 대기 순번 표시 또는 접수 후 알림 전환 |
이 네 줄이 있으면 견적서에 근거가 생겨요. 없으면 대체로 가장 단순한 방식으로 만들고 오픈 후에 다시 이야기하게 돼요. 그때 고치는 건 처음부터 넣는 것보다 손이 많이 가요.
운영사 Tip — 저희는 목표 시간을 정할 때 평균 대신 열 번 중 아홉 번을 기준으로 잡아요. 평균으로 적으면 어쩌다 한 번 30초 걸리는 게 숨거든요. 사용자가 기억하는 건 평균이 아니라 제일 오래 기다린 그 한 번이에요. 그리고 느려질 때 어떻게 보일지도 요구사항에 같이 적어두세요. 화면이 멈춘 것처럼 보이면 사용자는 버튼을 여러 번 누르고, 그러면 같은 요청이 여러 번 들어가서 요금까지 늘어요.
6. 우리 업무엔 어느 정도 속도가 필요할까요
모든 기능에 빠른 등급이 필요하지는 않아요. 업무의 생김새로 나눠보면 대체로 이렇게 갈려요.
사람이 앞에서 기다리는 일 — 상담 답변 초안, 검색 결과 요약, 입력 도중 추천처럼 화면에 사람이 붙어 있는 경우예요. 여기는 속도가 곧 사용성이라 값을 더 낼 이유가 있어요.
사람이 자리를 뜨는 일 — 월말 보고서 생성, 문서 일괄 분류, 데이터 정리처럼 걸어두고 나가는 경우예요. 3분이 걸리든 30분이 걸리든 결과는 같아요. 여기서 비싼 등급을 쓰면 값만 늘어요.
양이 많아서 오래 걸리는 일 — 문서 5,000건 검토처럼 한 건은 짧은데 건수가 많은 경우예요. 여기가 이번 발표의 효과가 가장 크게 나오는 자리예요. 사흘이 반나절이 되면 하던 방식 자체를 바꿀 수 있거든요.
7. 계획에 넣을 때 주의할 점
마지막으로 현실적인 이야기를 하나 해둘게요.
이번 발표는 일부 고객에게만 열린 미리보기예요. 지금 신청하면 바로 쓸 수 있는 상태가 아니고, 정식 공개 때 요금과 조건이 달라질 수 있어요.
그래서 이 속도를 전제로 일정을 짜는 건 아직 이르다고 봐요. 대신 설계에는 반영해두시면 좋아요. 모델을 부르는 부분을 서비스 로직과 떼어놓는 정도요. 이렇게 해두면 등급이 바뀌거나 제공사를 옮길 때 화면까지 다시 만들지 않아도 돼요.
지난 반년만 봐도 값과 속도가 계속 움직였어요. 움직이는 걸 고정된 것처럼 놓고 설계하면 나중에 그 부분부터 뜯게 돼요.
8. 자주 묻는 질문
AI 응답이 빨라지면 우리 서비스도 그만큼 빨라지나요?
그만큼은 아니에요. 모델 구간은 전체 시간의 일부라서, 앞뒤에 붙는 자료 조회와 저장 시간이 남아요. 구간별로 재보고 어디가 가장 긴지부터 확인하세요.
ai 모델링 최적화 견적은 속도까지 포함해서 받아야 하나요?
포함하되 항목을 나눠 받으세요. 사용료는 매달 나가는 변동비, 속도를 맞추는 개발은 한 번 들어가는 고정비라 성격이 달라요.
ai 자체 도입과 외주 개발 중 어떤 선택이 맞나요?
직원이 각자 쓰는 정도면 구독형 도구로 충분해요. 그 결과를 우리 화면에서 고객에게 보여줄 거라면 데이터 연결과 검증, 느려질 때 처리가 붙어서 만드는 일이 돼요.
지금 발표된 속도 등급을 도입 계획에 넣어도 되나요?
일정의 전제로는 이르지만 설계에는 반영해두세요. 모델 호출 부분을 분리해두면 등급이나 제공사가 바뀌어도 화면은 그대로 둘 수 있어요.
9. 마무리
이번 발표에서 남는 건 14배라는 숫자보다 속도가 따로 팔리기 시작했다는 사실이에요. 성능만 고르면 됐던 게 성능과 속도를 같이 고르는 일이 됐어요.
그래서 준비할 것도 하나 늘었어요. 우리 업무에서 사람이 앞에 붙어 기다리는 일이 어디까지인지, 그건 몇 초 안에 끝나야 하는지를 미리 정해두는 거예요. 이 두 줄이 있으면 어떤 등급이 새로 나와도 판단이 빨라져요.
저희는 10년 넘게 50개 이상 프로젝트를 진행하고 자체 SaaS 4종을 직접 운영해온 개발사예요. 롯데·캐논 같은 곳과도 함께해 왔고요. 서비스를 매일 지켜보다 보니 새 기능이 나오면 얼마나 빠른지보다 어디에 붙일 수 있는지를 먼저 보게 됐어요. 아직 붙일 자리를 고르는 단계여도 지금 상황부터 편하게 이야기 나눠요 →
관련 글