자동화를 끝까지 민 사례, 그리고 반례

끝까지 밀면 어디까지 가는가

앞 레슨에서 메신저 창에 봇 하나를 붙이고 심부름을 시켜 보셨습니다. DOI를 하나 던지면 요약이 돌아옵니다. 이 발상을 끝까지 밀면 어디까지 가는지 보여 주는 물건이 2026년 여름에 나왔습니다.

xAI가 2026년 8월 11일에 공개한 Grok Bot입니다. 공개 시점 기준으로 아직 시험판입니다. 구조를 요약하면 이렇습니다.

• 클라우드에 컴퓨터를 한 대 두고 브라우저와 파일 시스템, 터미널을 늘 켜 둡니다.
• 사용자의 계정으로 기존 앱에 로그인해 화면을 눌러 가며 직접 다룹니다. 연동용 API가 없는 앱도 사람이 하듯 화면을 조작해 씁니다.
• 여러 단계를 끝까지 밟고, 승인이 필요한 자리에서만 사람을 부릅니다.
• 사용자가 자기 기기를 꺼도 클라우드에서 계속 돌아갑니다.

xAI가 든 예는 CRM 갱신과 후속 메일 초안, 신규 입사자 계정 배정과 인보이스 처리, UI 버그를 재현해 티켓을 제출하는 일이었습니다. 연구실 언어로 옮기면 이렇게 됩니다. 학회 초록 마감일마다 하는 서식 맞추기, IRB 서류의 같은 항목을 여러 양식에 옮겨 적기, 매달 같은 검색을 돌려 새 논문만 추려 내기.

값이 나오는 자리는 지능이 아닙니다

이 사례를 볼 때 "AI가 이렇게까지 똑똑해졌구나"로 읽으면 잘못 읽은 것입니다. 목록을 다시 보십시오. CRM에 값을 채우고, 인보이스를 처리하고, 계정을 배정하는 일에는 지능이 거의 필요 없습니다. 필요한 것은 사람이 반복하던 조작을 순서대로 다시 밟는 일입니다.

값이 나오는 자리가 정확히 거기입니다. 앞 레슨의 문장 그대로입니다. 에이전트가 주는 것은 더 나은 판단이 아니라 되풀이되는 손일의 이관입니다. 이 사례는 그 명제를 가장 크게 확대해 보여 준다는 점에서 유용합니다.

그런데 이 모양은 여러분의 자료에 맞지 않습니다

여기서 목소리를 낮추겠습니다. 지금까지가 사례였다면, 이제부터가 이 레슨의 본론인 반례입니다.

앞의 설명을 다시 읽되 이번에는 물건이 놓인 자리만 보십시오. 컴퓨터는 클라우드에 있습니다. 브라우저도 파일도 거기 있습니다. 그리고 그 브라우저는 여러분의 계정으로 로그인해 있습니다.

편리함은 정확히 그 배치에서 나옵니다. 기기를 꺼도 일이 계속되는 이유는 일이 내 기기에서 벌어지지 않기 때문입니다. 앱을 자유롭게 다루는 이유는 내 자격증명을 그쪽이 쥐고 있기 때문입니다. 두 가지는 같은 성질의 앞뒷면입니다. 하나만 골라 가질 수 없습니다.

그래서 이 사례에서 가져갈 질문은 "얼마나 잘하는가"가 아니라 앞 레슨에서 세운 그 질문입니다. 이것이 무엇을 만질 수 있는가, 그리고 그 만지는 손이 어디에 있는가.

메신저 봇도 규모만 작을 뿐 같은 구조입니다. 대화 창에 붙여 넣은 문장은 봇을 운영하는 쪽의 서버를 지나 모델 제공자에게 갑니다. 대화 기록은 내 컴퓨터가 아니라 그 서비스에 남습니다. 봇에 계정을 연결했다면 그 계정의 권한도 함께 나가 있습니다. 편리함의 값은 성능이 아니라 내 자료와 내 열쇠가 어디에 놓이는지로 치릅니다.

그래서 규칙 하나

이 코스에서 예외를 두지 않는 규칙을 여기서 세웁니다.

기관 자료와 환자 자료는 메신저 봇에 넣지 않습니다.

무엇이 여기에 해당하는지는 세 줄로 충분합니다.

• 개인을 알아볼 수 있는 자료
• 아직 공개되지 않은 기관의 보고 자료
• 심사를 맡은 남의 원고

세 번째 줄을 놓치는 분이 많습니다. 학술지 심사를 맡은 원고를 요약해 달라고 봇에 붙여 넣는 순간, 성능과 무관하게 기밀 위반입니다. 이 코스에서 소개하는 검토 도구들도 저자 본인의 원고를 보는 용도이지 심사용이 아닙니다.

한 가지만 더 구분해 두겠습니다. 파일이 내 컴퓨터에 있다는 것과 AI에 보내지 않는다는 것은 다른 말입니다. 폴더가 내 노트북에 있어도, 그 안의 문장을 복사해 대화 창에 붙여 넣는 순간 그 문장은 밖으로 나갑니다. 관건은 파일의 위치가 아니라 무엇을 붙여 넣는가입니다.

기관마다 AI 사용 지침과 계약상 자료 반출 조건이 다릅니다. 이 코스가 여러분 기관의 규정을 대신 판정할 수는 없으니, 실제 업무에 붙이기 전에 내부 지침을 반드시 확인하십시오. 학술지 투고 시 공개 의무와 기관 규범을 함께 다루는 곳은 모듈 10입니다. 지금 세운 이 규칙은 거기서 다시 불러 제대로 갚습니다.

같은 자동화를 내 폴더 안에서

반례라고 해서 자동화를 접자는 뜻이 아닙니다. 두 방식의 목적은 자동화로 똑같습니다. 갈라지는 것은 둘뿐입니다. 자료와 자격증명이 어디에 놓이는가, 그리고 밟은 절차가 기록으로 남는가.

이 코스가 고른 길은 같은 자동화를 내 컴퓨터의 폴더 안에서 하고, 밟은 절차를 파일로 남기는 방식입니다. 다음 모듈에서 폴더 하나를 만들고 그 폴더에서 직접 일하는 에이전트를 들이는 이유가 여기 있습니다. 성능 때문이 아니라 위치와 기록 때문입니다.

직접 해 보기약 12분

지금 쓰고 계신 메신저 봇을 놓고 반출 점검표를 한 장 만듭니다. 봇의 설정 화면과 서비스 안내 문서를 열어 놓고 채웁니다. 확인할 수 없는 항목은 비워 두지 말고 "확인 불가"라고 적습니다. 확인이 안 된다는 사실 자체가 판단 근거입니다.

항목	확인한 내용
내가 보낸 문장은 어느 회사의 모델로 가는가
대화 기록은 어디에 얼마나 남는가
이 봇에 연결한 계정과 그 계정의 권한은 무엇인가
학습에 쓰이지 않도록 끄는 설정이 있는가

표를 채운 뒤, 그 아래에 이 봇에 절대 붙여 넣지 않을 것 목록을 내 연구의 실제 파일 이름으로 적습니다. "환자 자료"처럼 뭉뚱그리지 말고 지금 손에 있는 파일 이름을 그대로 적으십시오. 급할 때 판단을 돕는 것은 원칙이 아니라 이름입니다.

이 점검표를 파일로 저장해 두세요. 도구를 새로 붙일 때마다 같은 네 줄을 다시 채우면 됩니다. 모듈 10에서 AI 사용 공개 문구를 쓸 때도 이 기록에서 그대로 뽑아 씁니다.

커뮤니티에 결과를 남겨 보세요

연구에 적용하면

자동화는 옳은 방향이고, 이 사례는 그 방향을 가장 크게 보여 줍니다. 다만 편리함의 값은 내 자료와 내 열쇠가 어디에 놓이는지로 치릅니다. 기관 자료와 환자 자료는 메신저 봇에 넣지 않습니다.

이 모듈의 천장은 그래서 두 겹입니다. 봇은 심부름은 하지만 붙여 넣어도 되는 것의 범위가 좁고, 다녀온 결과를 내 폴더에 남기지도 못합니다. 모듈 4에서 같은 자동화를 내 폴더 안으로 옮겨 옵니다.