사람이 이름 걸 수 있는 AI 답변, 도입 전 확인할 5가지

📰 2026년 10월 20일 기준 최신 소식 | 이 글은 특정 시점의 뉴스를 다루고 있어요.

먼저 짧게 답부터 드릴게요. OpenAI가 10월 19일 공개한 영상에서 톰슨로이터의 카밀로 스페로니(Camillo Speroni)는 법률 AI의 신뢰를 이렇게 설명했어요. 변호사가 검증하고 인용하고 자기 이름을 걸 수 있는 결과물. 계약·회계·규정·제안서처럼 틀리면 곤란한 업무에 AI 에이전트 도입을 앞둔 회사라면 같은 기준을 시스템 요건으로 옮겨 볼 만해요. 확인할 곳은 다섯 군데예요. 답마다 원문으로 따라갈 수 있는지, 근거가 없으면 멈추는지, 사람이 고치고 승인한 기록이 남는지, 쓰던 도구 안에서 권한 그대로 쓰는지, PoC에서 인용이 맞는 비율을 쟀는지. 직접 만들고 운영해 본 개발사 기준으로 정리했어요.

“AI가 계약서 검토 초안을 써 주면 좋겠는데, 그걸 그대로 고객한테 보내도 되나요?”

AI 도입 상담에서 자주 나오는 질문이에요. 보통은 안 돼요. 초안이 맞는지 누군가 확인해야 하고, 그 사람이 결국 책임을 지거든요. 그렇다면 질문을 바꿔야 해요. AI 답이 맞느냐보다, 사람이 그 답을 빨리 확인하고 자기 이름으로 내보낼 수 있느냐로요.

AI에 어떤 권한을 줄지는 AI 에이전트에 직원 권한을 주기 전에 확인할 5가지에서, 기존 시스템이 받아 줄 준비가 됐는지는 AI 에이전트가 ERP·CRM을 대신 쓰면, 시스템에서 점검할 4가지에서 다뤘어요. 오늘은 답 자체를 확인할 수 있게 만드는 설계와 쓰던 도구 안으로 들이는 연동 두 가지에 집중할게요.

---

1. 톰슨로이터와 OpenAI는 무엇을 연결했나요

법률 협업 도구 HighQ를 MCP로 연결할 수 있게 열면서 ChatGPT Enterprise와 잇는 모습을 보여 줬고, 법률 AI 비서 CoCounsel Legal은 ChatGPT 안에서 쓰는 경험을 미리 공개했어요. 톰슨로이터는 법률 데이터베이스 Westlaw를 운영하는 정보 회사예요. HighQ는 법률 조직이 사건 자료를 함께 다루는 협업 플랫폼이고, CoCounsel Legal은 리서치와 문서 작업을 돕는 AI 비서예요.

발표 흐름을 날짜순으로 모으면 이래요.

공식 외부 기준 — 이 글이 기대는 자료

날짜	출처	내용
2026년 6월 22일	LawNext(법률 기술 매체)	차세대 CoCounsel Legal 조기 공개. 결과물은 처음부터 권위 있는 자료에 근거해 만들고 “모든 인용은 연결된 출처로 따라갈 수 있다” 고 설명했어요
2026년 9월 17일	톰슨로이터 CTO 블로그	HighQ는 이날부터 MCP 연결로 사용 가능. ChatGPT 안의 CoCounsel Legal은 프리뷰(정식 출시 전)라고 밝혔어요
2026년 10월 19일	OpenAI 유튜브 영상	신뢰란 변호사가 검증하고 인용하고 이름을 걸 수 있는 결과물이라고 설명했어요

(CoCounsel Legal의 ChatGPT 연동은 9월 17일 기준 프리뷰예요. 정식 출시 일정은 확인하지 못했어요.)

용어 정리 — MCP(Model Context Protocol)는 AI가 외부 도구와 데이터에 붙는 표준 연결 방식이에요. 실무에선 “우리 시스템에 MCP 서버를 하나 열면 여러 AI 도구에서 같은 데이터를 부를 수 있어요”처럼 말해요.

눈여겨볼 문장은 CTO 조엘 흐론(Joel Hron)의 글에 있어요. 지향점은 ChatGPT Enterprise에서 일하는 법률가가 HighQ에서 자기가 접근 권한을 가진 사건 자료에만 연결되는 것이라고 했어요. 그리고 “개방이 통제 없음을 뜻할 수는 없다”고 덧붙였어요.

2. ‘이름을 걸 수 있는 답’은 무엇이 다른가요

맞아 보이는 답이 아니라 빨리 확인할 수 있는 답이에요. 스페로니가 말한 세 동사를 시스템 말로 옮기면 기준이 또렷해져요. 검증한다는 건 원문과 대조할 수 있다는 뜻이고, 인용한다는 건 출처 위치를 그대로 옮겨 적을 수 있다는 뜻이에요. 이름을 건다는 건 누가 확인하고 승인했는지가 남는다는 뜻이고요.

법률만의 이야기는 아니에요. 회사 안에도 같은 구조의 업무가 많아요.

자사 실무 기준 예시 — 사내 업무에서 ‘이름을 거는 사람’과 인용이 가리킬 곳

업무	AI가 맡는 일	이름을 거는 사람	인용이 가리켜야 할 곳
계약 검토	위험 조항 표시, 수정안 초안	법무 담당자	계약서의 조항 번호, 사내 표준 계약서의 해당 조항
회계·정산	처리 기준 안내, 전표 분류 제안	회계 담당자	사내 회계 규정의 해당 조문, 근거 전표
사내 규정 문의	직원 질문에 답변	인사·총무 담당자	취업규칙·내부 지침의 조문과 시행일
제안서 작성	과거 실적·제안서에서 문단 초안	영업·기획 책임자	과거 제안서 파일과 쪽, 실적 기록

(자사 실무 기준 예시예요. 특정 고객사 사례가 아니에요.)

네 업무 모두 이름을 거는 사람이 가장 아까워하는 건 원문을 다시 찾는 시간이에요. 답이 맞아 보여도 출처가 없으면 처음부터 찾아야 하니까요. 아래 다섯 가지는 그 시간을 줄이는 장치예요.

3. 답마다 원문의 어느 문단인지 따라갈 수 있나요

문서 이름이 아니라 문단 위치와 문서 버전까지 따라가야 해요. “취업규칙 참고”라고만 붙은 인용은 확인하는 사람에게 도움이 거의 안 돼요. 수십 쪽짜리 문서를 다시 넘겨야 하거든요.

자사 실무 기준 예시 — 인용 단위별로 확인에 드는 수고

인용 단위	화면에 보이는 것	확인하는 사람의 수고
문서 링크만	”출처: 회계규정.pdf”	문서를 열어 처음부터 찾아야 해요
문단 위치	”회계규정 3장 12조”	해당 조문으로 바로 가서 읽으면 돼요
원문 발췌 + 버전	원문 두세 줄 + “2026년 3월 개정본”	답 옆에서 바로 대조하고, 낡은 문서인지도 보여요

(자사 실무 기준 예시예요. 문서 형식에 따라 위치 표기 방식은 달라져요.)

세 번째 단계를 만들려면 문서를 AI가 찾기 쉬운 조각으로 나눌 때 조각마다 원래 위치와 버전을 같이 저장해야 해요. 처음 설계할 때 넣으면 작업 하나지만, 다 만든 뒤에 넣으려면 문서를 전부 다시 처리해야 할 수 있어요. 사내 문서 검색 AI의 비용이 어디서 붙는지는 사내 문서 검색 AI 구축 비용에 따로 정리해 뒀어요.

순서도 생각해 볼 만해요. LawNext 보도에 따르면 차세대 CoCounsel Legal은 답을 먼저 쓰고 나중에 출처와 맞춰 보는 방식이 아니라, 첫 추론 단계부터 권위 있는 자료에 근거해 결과물을 만든다고 했어요. 인용을 장식처럼 뒤에 붙이면 인용과 본문이 어긋나기 쉬워요. 근거를 먼저 찾고 그 안에서 답을 쓰게 해야 어긋남이 줄어요.

4. 근거를 못 찾으면 “모른다”고 답하게 돼 있나요

그렇게 일부러 만들어야 해요. AI는 근거가 없어도 그럴듯한 문장을 만들어요. 문서에 답이 없을 때 “찾지 못했어요”라고 말하는 동작은 저절로 생기지 않아요.

설계에서 정할 것은 세 가지예요.

• 멈추는 조건 — 찾은 근거가 질문과 충분히 맞지 않으면 답 대신 “관련 규정을 찾지 못했어요, 담당자에게 넘길게요”로 끝나게 해요.
• 인용 없는 문장 표시 — 답 안에서 근거가 붙지 않은 문장은 색을 달리하거나 따로 묶어서 보여 줘요. 확인하는 사람이 어디를 의심해야 할지 바로 보여요.
• 인용 대조 단계 — 답을 내보내기 전에 인용한 문단에 그 내용이 실제로 있는지 한 번 더 맞춰 보는 검사를 둬요. 사람이 하던 대조를 기계가 먼저 걸러 주는 셈이에요.

흔한 실수 “모른다”는 답을 실패로 세는 거예요. PoC에서 답변률을 성과로 잡으면 개발 쪽은 어떻게든 답을 내게 만들어요. 틀리면 곤란한 업무에서는 근거 없는 답보다 “찾지 못했어요”가 훨씬 싸요. 답변률 대신 틀린 답이 나간 비율을 보세요.

5. 사람이 고치고 승인한 기록이 남나요

AI 초안과 사람이 확정한 최종본이 따로 남아야 해요. 이름을 건다는 건 결국 “내가 이 버전을 보고 승인했다”는 기록이에요. 이게 없으면 나중에 문제가 생겼을 때 AI가 쓴 부분과 사람이 고친 부분을 가를 수 없어요.

자사 실무 기준 예시 — 검토 기록에 남길 항목

항목	남기는 이유
AI 초안 원본과 그때 참고한 문서·버전	답이 어디서 나왔는지 나중에도 재현하려고요
사람이 고친 부분	AI가 자주 틀리는 유형을 모아 개선하려고요
승인한 사람과 시각	책임 소재를 분명히 하려고요
반려·보류 사유	근거 문서가 낡았는지, 질문이 모호했는지 가르려고요

(자사 실무 기준 예시예요. 업무의 규제 수준에 따라 보관 기간과 항목은 달라져요.)

고친 부분을 모아 두면 덤도 있어요. 같은 수정이 반복되면 프롬프트보다 근거 문서가 낡았다는 신호인 경우가 많고, 그 문서를 가진 부서가 고치면 다음부터 AI가 맞게 답해요.

6. 새 AI 화면을 만들까요, 쓰던 도구 안으로 들어갈까요

직원이 하루를 보내는 도구가 정해져 있다면 그 안으로 들어가는 쪽을 먼저 검토하세요. 톰슨로이터도 그쪽이에요. 6월 보도에선 Microsoft 365·iManage·SharePoint 같은 도구와의 연동을 예고했고, 9월 글에선 이렇게 정리했어요. “시스템은 따로 남고, 경험만 더 연결된다.”

여기서 개발사가 가장 먼저 보는 건 권한이 어디서 판단되느냐예요. 같은 회사의 HighQ 도움말에는 기존 HighQ 안 CoCounsel 기능을 쓸 때 파일이 HighQ 사이트와 같은 방식으로 권한이 걸리지 않은 CoCounsel 저장소로 보내진다는 안내가 있어요. 문서를 AI 쪽으로 복사하면 원래 시스템의 권한이 그대로 따라오지 않을 수 있다는 걸, 만든 회사가 직접 적어 둔 거예요. 9월에 밝힌 지향점이 “접근 권한을 가진 사건 자료에만 연결”인 것도 같은 고민으로 읽혀요.

자사 실무 기준 예시 — 두 연동 방식 비교

방식	좋은 점	운영하면서 생기는 일
새 AI 화면 + 문서 복사	빠르게 만들어 보여 줄 수 있어요	원래 시스템의 권한을 다시 만들어야 해요. 원본이 바뀌면 복사본이 낡아요
쓰던 도구 안 연동	원래 시스템이 권한을 판단하고 AI는 허락된 범위만 받아 와요	원래 시스템에 API나 연결 창구가 있어야 해요. 없으면 그 작업이 먼저예요

(자사 실무 기준 예시예요. 두 방식을 섞어 쓰는 경우도 많아요.)

오래된 사내 시스템은 연결 창구가 없거나 조회만 열려 있는 경우가 꽤 있어요. 연동이 견적과 일정을 얼마나 바꾸는지는 기존 시스템 연동이 있으면 왜 더 어려워질까요를 참고하세요.

7. AI 플랫폼 도입 전 PoC에서는 뭘 확인해야 하나요

정답률 하나로 끝내지 말고 인용이 실제 원문과 맞는 비율을 같이 재세요. 정답률이 높아도 인용이 엇나가면 사람은 결국 원문을 다시 찾아요.

자사 실무 기준 예시 — PoC에서 잴 지표 5가지

지표	재는 법	왜 보나요
인용 일치율	답에 붙은 인용을 열어 그 문단에 해당 내용이 있는지 사람이 표시	확인 시간이 실제로 줄어드는지 보여요
근거 없음 응답률	문서에 답이 없는 질문을 섞어 넣고 “찾지 못했어요”로 답한 비율	지어낸 답을 막는지 보여요
권한 밖 노출	권한이 다른 계정 두세 개로 같은 질문	볼 수 없는 문서가 섞여 나오는지 보여요
검토 시간	담당자가 답 하나를 확인하고 승인하는 데 걸린 시간	도입 효과를 숫자로 말할 수 있어요
최신성	개정된 문서로 바꾼 뒤 같은 질문	옛 버전을 인용하지 않는지 보여요

(자사 실무 기준 예시예요. 예를 들어 질문 50개를 준비한다면 그중 10개 정도는 일부러 문서에 답이 없는 질문으로 넣어 보세요.)

PoC 예산과 기간을 어떻게 잡는지는 AI PoC 비용 가이드에 있어요. 지표를 미리 합의해 두면 PoC가 끝났을 때 “됐다, 안 됐다”를 두고 다툴 일도 줄어요.

8. 운영해 본 개발사는 어떻게 보나요

AI 답의 신뢰는 모델보다 그 답을 받치는 시스템에서 나온다고 봐요. 원문 위치를 저장하는 문서 처리, 근거가 없을 때 멈추는 규칙, 사람이 승인한 기록, 원래 시스템의 권한을 따르는 연동. 넷 다 모델을 바꿔도 그대로 남는 부분이에요.

저희도 자체 SaaS 4종을 운영하면서 같은 걸 배웠어요. 사용자 문의가 오면 결국 “이 값이 어디서 나왔는지”를 기록으로 되짚어 답하게 되고, 되짚을 길이 없는 기능은 운영 내내 사람 손을 잡아먹어요. 톰슨로이터 CTO의 “신뢰가 일과 함께 움직여야 연결이 가치가 있다”는 문장도 같은 이야기예요. AI 기능을 외주로 맡길 때 견적서의 어느 줄에서 비용이 갈리는지는 소프트웨어 개발 외주 비용 가이드를 함께 보세요.

계약·회계·규정처럼 틀리면 곤란한 업무에 AI를 붙이고 싶은데 어디까지 확인할 수 있게 만들어야 할지 감이 안 온다면, 범위가 아직 정해지지 않았어도 괜찮아요. 업무 하나를 골라 인용을 어디까지 따라가게 할지, 권한은 어느 시스템이 판단하게 할지부터 같이 정리해 볼 수 있어요. 저희는 10년 넘게 50개 이상의 프로젝트를 진행하면서 자체 SaaS 4종을 직접 운영해 온 개발사이고, 롯데·캐논 같은 곳과도 함께해 왔어요. 우리 업무에 맞는 AI 답변 설계를 같이 짚어 봐요 →

9. 자주 묻는 질문 (FAQ)

AI 플랫폼 도입 전에 PoC에서 뭘 확인해야 하나요?

정답률과 함께 세 가지를 보세요. 답에 붙은 인용을 열었을 때 그 문단에 정말 그 내용이 있는지, 문서에 답이 없는 질문에 모른다고 답하는지, 질문한 사람이 볼 권한이 없는 문서가 섞여 나오지 않는지요. 정답률만 높고 인용이 엇나가면 사람이 결국 원문을 처음부터 다시 찾게 돼요.

인용과 검토 기능까지 넣으면 AI 에이전트 비용이 많이 늘어나나요?

모델 값보다 문서를 쪼갤 때 위치 정보를 함께 저장하는 작업, 검토·승인 화면, 기존 시스템 권한 연동에서 늘어나요. 처음 설계 때 넣으면 작업 하나로 끝나지만, 다 만든 뒤에 넣으면 문서를 전부 다시 색인해야 할 수 있어요. 그래서 견적 단계에서 인용 단위부터 정하는 편이 싸요.

AI 에이전트 도입할 때 새 화면을 만드는 게 나을까요, 쓰던 도구에 붙이는 게 나을까요?

직원이 하루 대부분을 보내는 도구가 정해져 있다면 그 안에 붙이는 쪽을 먼저 검토하세요. 새 화면은 만들기 쉽지만 문서를 복사해 오는 순간 원래 시스템의 권한이 따라오지 않을 수 있어요. 원래 시스템이 권한을 판단하고 AI는 허락된 범위만 받아 오게 하는 구조가 운영하기 편해요.