AI 비서가 화면을 읽기 시작했어요 | 도입 전 정할 6가지
메타가 8월 19일 맥용 AI 앱을 내면서 화면 공유와 구글 워크스페이스 연결을 붙였어요. 같은 주에 그록에서는 암호로 잠긴 지시 한 줄로 대화 기록이 통째로 빠져나가는 방식이 공개됐고요. 사내에 AI 비서를 붙일 때 요구사항과 견적서에 적어둘 6가지를 발주자 관점으로 정리했어요.
📰 2026년 8월 21일 기준 최신 소식 | 이 글은 특정 시점의 뉴스를 다루고 있어요.
핵심 요약 — 메타가 8월 19일 맥용 AI 앱을 베타로 내놨어요. 창 하나를 골라 보여주면 그 화면을 읽고 답을 주고, 구글 워크스페이스 문서를 가져오고, 회사 계정의 광고 성과까지 읽어요. 며칠 사이 반대편 소식도 나왔어요. 보안 업체 아드베르사가 그록에서 웹페이지에 심어둔 암호화된 지시 한 줄로 대화 기록을 통째로 빼내는 방식을 공개했거든요. 두 소식은 같은 이야기의 앞뒤예요. AI 비서가 볼 수 있는 게 넓어질수록, 남이 심어둔 문장 하나가 닿는 범위도 같이 넓어져요. 사내 도입을 준비 중이라면 모델을 고르기 전에 볼 범위부터 정하셔야 해요. 직접 만들고 운영해본 개발사 기준으로 정리했어요.
“화면 보여주면 알아서 정리해준대요.”
지난주에 이 말을 두 번 들었어요. 한 번은 마케팅 담당자한테, 한 번은 회계 담당자한테요. 둘 다 반가운 소식인데, 저희가 되묻는 건 늘 그다음이에요. 그 화면에 지금 뭐가 떠 있느냐는 거요.
1. 이번 주에 무슨 일이 있었나요
같은 주에 방향이 반대인 소식 두 개가 나왔어요.
하나. 메타가 맥용 AI 앱을 냈어요. 8월 19일 발표였고 아직 베타예요. 눈에 띄는 건 화면 공유예요. 창 하나를 대화에 붙이면 AI가 거기 보이는 내용을 읽고 질문에 답하거나 수정을 제안하거나 초안을 써줘요. 어느 앱에서든 받아쓰기가 되고, 구글 워크스페이스에 있는 문서도 가져와요. 회사 페이스북·인스타그램 계정에 붙여두면 참여도와 광고 성과 데이터까지 읽어요. 다만 컴퓨터를 대신 조작하지는 못해요. 이 점은 챗지피티나 클로드의 데스크톱 기능과 달라요.
둘. 그록에서 대화 기록이 새는 방식이 공개됐어요. 보안 업체 아드베르사 AI가 내놓은 내용인데, 그록의 웹 챗이 플랫폼에서 읽어온 남의 글을 참고 자료가 아니라 해야 할 일로 처리하더라는 거예요. 연구진이 쓴 방법이 얄궂어요. 웹페이지에 암호로 잠긴 지시문과 그 열쇠를 나란히 놓아둬요. AI가 자기 코드 실행 기능으로 그 자물쇠를 풀어요. 그러면 방금 나온 문장은 남이 심은 게 아니라 자기가 만들어낸 결과물이 되고, 모델은 그걸 믿어요. 시연에서는 grok.com 대화 기록이 빠져나갔어요. 이용자 이름, 대략적인 위치, 구독 등급, 그 대화에서 주고받은 질문 전체가 주소 뒤에 파라미터로 붙어 밖으로 나갔고요.
두 소식을 붙여놓으면 이렇게 읽혀요. 볼 수 있는 게 넓어지는 흐름과, 본 것을 밖으로 흘리는 방법이 같은 속도로 나오고 있어요.
2. ‘읽기만 한다’는 말이 왜 안심이 안 될까요
AI 도구를 검토할 때 가장 자주 듣는 안심 문구가 “읽기 권한만 준다”예요. 조작은 못 하고 보기만 하니까 괜찮다는 거죠.
그런데 사고 대부분은 조작이 아니라 읽기에서 나요. 그록 사례에서 밖으로 나간 것도 조작 결과가 아니라 읽은 내용이었어요. 정보가 새는 데는 권한이 딱 둘만 있으면 돼요. 볼 수 있고, 밖으로 한 줄 보낼 수 있으면요. 요즘 AI 비서는 웹을 찾아보거나 링크를 열 수 있어서 그 한 줄 보내기가 이미 붙어 있는 셈이에요.
화면 공유는 여기에 한 겹을 더해요. 문서 권한은 관리자가 목록으로 관리하지만, 화면은 그 순간 담당자가 무엇을 띄워놨느냐로 정해져요. 견적서 옆에 열려 있던 고객 명단, 알림창에 스쳐 지나간 계약 내용, 메신저에 떠 있던 사번. 권한 목록에는 안 잡히는 것들이에요.
3. 남이 심어둔 문장이 왜 우리 지시처럼 먹힐까요
이 대목은 개발자가 아니어도 알아두시면 좋아요. 견적서에서 뭘 확인할지가 여기서 갈리거든요.
용어 풀이 — 간접 프롬프트 인젝션 AI에게 우리가 직접 명령하는 게 아니라, AI가 읽어올 자료 안에 명령을 미리 심어두는 방식이에요. 웹페이지 본문, 첨부한 PDF, 고객이 보낸 메일, 심지어 화면에 떠 있는 문장 안에도 심을 수 있어요. 실무에서는 “AI가 읽는 건 전부 명령이 될 수 있다”고 이해하시면 맞아요.
사람은 자료와 지시를 구분해요. 보고서에 “이 문장을 상사에게 전달하시오”라고 적혀 있어도 우리는 그게 보고서 내용이라는 걸 알죠. 지금 모델은 그 구분이 약해요. 아드베르사가 지적한 것도 그 지점이었어요. 사용자가 준 자료와 시스템이 준 지시가 충분히 갈라져 있지 않고, 동작 모드가 바뀔 때 사이를 막아주는 장치가 없고, 나가는 내용을 검사하는 장치도 부족하다는 거예요.
암호를 쓴 이유도 여기 있어요. 겉으로는 그냥 알아볼 수 없는 문자열이라 눈으로도 필터로도 안 걸려요. 그런데 AI가 자기 손으로 풀고 나면 자기 결과물이 되죠. 연구진은 이걸 신뢰 세탁이라고 불렀어요.
4. 우리 회사 자료 중 무엇이 이미 열려 있나요
도입을 논의하기 전에 이 표부터 채워보시길 권해요. 저희가 상담 초반에 같이 그려보는 표예요.
| 경로 | 무엇이 열리나요 | 관리자가 볼 수 있나요 |
|---|---|---|
| 담당자 개인 계정 | 그 사람이 붙여넣은 모든 것 | 안 보여요 |
| 화면 공유 | 그 순간 창에 떠 있던 전부 | 안 보여요 |
| 문서 저장소 연결 | 연결한 계정이 볼 수 있는 폴더 전체 | 목록으로 보여요 |
| 사내 시스템 연결 | 개발 단계에서 연 범위만 | 기록으로 남겨요 |
| 회사 SNS 계정 연결 | 참여도·광고 성과 데이터 | 대체로 보여요 |
위 두 줄이 문제예요. 회사가 도구를 안 정해주면 담당자는 각자 편한 계정으로 쓰기 시작하고, 그러면 무엇이 나갔는지 확인할 방법 자체가 없어요. 아래 두 줄은 범위를 좁힐 수도, 기록을 남길 수도 있어요. 도입 논의는 결국 위 두 줄을 아래 두 줄로 옮기는 일이에요.
문서 저장소 연결에서 한 가지 더 짚을 게 있어요. 연결은 폴더 단위가 아니라 계정 단위로 붙는 경우가 많아요. 담당자 계정에 인사 폴더가 딸려 있으면 그것도 같이 열려요. 이건 AI가 우리 계정에 로그인해요 | 권한 열기 전 정할 6가지에서 따로 정리해뒀어요.
5. 요구사항에 적어둘 6가지
AI 기능을 붙이는 개발을 맡기신다면 아래 여섯 줄을 요구사항에 넣어보세요. 문장은 짧아도 견적과 결과가 크게 달라져요.
- 볼 수 있는 자료 목록을 폴더·화면 단위로 적어요. “사내 문서”처럼 뭉뚱그리면 열리는 범위가 개발자 판단으로 정해져요.
- 밖으로 나갈 수 있는 통로를 적어요. 웹 검색, 링크 열기, 이미지 불러오기, 메일 보내기. 안 쓸 통로는 막아달라고 적어두세요. 정보가 새려면 결국 통로가 하나는 있어야 해요.
- 가져온 자료는 자료로만 다루도록 적어요. 읽어온 문서·웹페이지·메일 안의 문장을 지시로 실행하지 않는다는 조건이에요. 견적서에서는 대개 별도 항목으로 잡혀요.
- 누가 무엇을 봤는지 기록을 남기도록 적어요. 사고가 난 다음 범위를 확인하려면 이 기록이 있어야 해요. 없으면 “아마 안 나갔을 거예요”밖에 못 해요.
- 개인 계정 사용 금지와 회사 계정 지급을 같이 적어요. 기술이 아니라 운영 규칙인데, 이게 빠지면 앞의 다섯 줄이 무력해져요.
- 모델을 나중에 바꿀 수 있게 만들어달라고 적어요. 값도 정책도 몇 달 단위로 움직여요. 한 곳만 고쳐서 갈아끼울 수 있으면 나중에 선택지가 남아요.
AI 도입을 준비하시는데 어디까지 열어야 할지 감이 안 잡히시면, 범위부터 같이 그려보실 수 있어요 →
6. 견적서에서는 이 항목이 어디에 붙나요
AI 기능 견적서를 받아보면 대개 모델 사용료와 개발비 두 줄로 와요. 위 여섯 줄은 그 사이에 숨어 있어요. 항목이 따로 안 적혀 있으면 나중에 추가 개발로 다시 청구되는 경우가 많아요.
| 요구 항목 | 견적서에서 붙는 자리 | 안 적으면 생기는 일 |
|---|---|---|
| 볼 범위 지정 | 연동·권한 설계 | 계정이 볼 수 있는 전체가 열려요 |
| 나가는 통로 제한 | 기능 정의 | 검색·링크 열기가 기본으로 켜져요 |
| 자료를 지시로 안 읽기 | 안전장치 개발 | 다음 사고 때 손댈 곳이 없어요 |
| 열람 기록 | 관리자 화면 | 범위 확인이 불가능해져요 |
| 모델 교체 구조 | 설계 항목 | 값이 내려가도 그대로 내요 |
특히 네 번째 줄은 관리자 화면 개발로 잡혀서 값이 붙어요. 그래서 견적을 줄이려고 가장 먼저 빠지는 항목이기도 해요. 저희 판단으로는 여기를 빼면 나중에 훨씬 비싸게 돌아와요. 사고 규모를 확인할 수 없다는 건 사고 전체를 최악으로 가정해야 한다는 뜻이거든요.
7. 운영해보니 여기서 갈려요
저희는 자체 SaaS 4종을 직접 굴리면서 외부에서 들어오는 값을 다뤄봤어요. 그때 배운 게 하나 있어요. 밖에서 들어온 건 일단 못 믿을 것으로 두고, 믿을지 말지는 우리가 정한다는 규칙이에요. AI 비서도 결국 같은 자리에 있어요. 웹페이지, 첨부 파일, 고객이 보낸 메일, 화면에 스친 문장. 전부 밖에서 들어온 값이에요.
실무에서 갈리는 지점은 세 군데였어요. 범위를 넓게 열어두고 시작한 곳은 나중에 좁히지 못해요. 이미 그 범위에 맞춰 업무가 굴러가서요. 기록을 안 남긴 곳은 문제가 생겨도 확인을 못 해서 도구를 통째로 끄는 선택밖에 못 해요. 담당자에게 쓸 도구를 안 정해준 곳은 두 달쯤 지나면 개인 계정 대여섯 개가 돌아다녀요.
납품으로 끝나는 코드와 운영까지 버티는 코드는 다르다고 생각해요. AI 기능은 그 차이가 특히 빨리 드러나는 자리예요.
8. 자주 묻는 질문 (FAQ)
화면 공유 기능은 아예 안 쓰는 게 나을까요?
업무별로 나누시면 돼요. 공개 자료나 시안처럼 밖에 나가도 되는 화면은 쓰셔도 괜찮아요. 고객 정보나 계약 내용이 뜨는 화면은 사람이 요약해서 넣는 편이 안전해요. 도구 자체보다 어떤 화면에서 켜느냐가 위험을 정해요.
사내망에서만 쓰면 안전한가요?
한 겹은 확실히 줄어요. 다만 AI가 외부 웹을 읽어올 수 있으면 통로는 남아 있어요. 폐쇄망이라도 읽어오는 자료의 출처와 나가는 통로를 같이 확인하셔야 해요.
지금 쓰는 도구가 위험한지 어떻게 확인하나요?
세 가지를 물어보세요. 어떤 자료에 닿을 수 있는지, 밖으로 내보낼 수 있는 통로가 무엇인지, 누가 무엇을 봤는지 기록이 남는지. 세 번째에 답이 안 나오면 범위부터 좁히시는 게 좋아요.
9. 마무리 — 도구보다 범위가 먼저예요
이번 주 두 소식은 결국 한 문장으로 모여요. AI 비서가 볼 수 있는 게 넓어질수록, 남이 심어둔 문장 하나가 닿는 범위도 같이 넓어져요.
그래서 도입 논의를 모델 비교로 시작하지 않으셨으면 해요. 어떤 자료를 열지, 어디로 나갈 수 있게 둘지, 무엇을 기록으로 남길지. 이 세 줄을 먼저 정하면 어떤 도구를 골라도 크게 어긋나지 않아요.
AI 도입을 준비하시는데 어디서부터 손대야 할지 막막하시면, 지금 열려 있는 자료 범위를 함께 정리해보는 것부터 시작해요 → 저희는 10년 넘게 50개가 넘는 프로젝트를 진행하고 자체 SaaS 4종을 직접 운영해온 개발사예요. 롯데·캐논 같은 곳과도 함께해 왔고요. 만드는 쪽과 굴리는 쪽을 다 해봐서, 어디를 열면 나중에 곤란해지는지는 조금 아는 편이에요.
관련해서 함께 보면 좋은 글이에요.