업무 문서 하나를 통째로 복사해서 챗봇 입력창에 붙여넣었다. 요약 좀 시키려고. 그리고 엔터를 치기 직전에 손이 멈췄다.
이 안에 담당자 이름이 있고, 아직 공개 안 된 일정이 있고, 거래처 얘기가 있었다. 이걸 지금 어디로 보내는 거지. 커서만 깜빡이는 화면을 한참 봤다. AI 챗봇 개인정보 문제를 늘 남 얘기처럼 넘겼는데, 막상 내 문서를 앞에 두니 손이 안 나갔다.
붙여넣기 전에 걸린 건 두 가지였다
걱정을 뜯어보니 딱 두 갈래였다. 하나는 내가 넣은 내용이 그대로 모델 학습에 흡수되는 것. 다른 하나는 학습이 아니어도 사람 검토자나 서비스 버그로 대화 자체가 새는 것.
이게 괜한 걱정이 아니라는 걸 사례로 확인했다. 2023년 3월, 삼성전자 반도체 부문이 사내 ChatGPT 사용을 허용한 뒤 약 20일 만에 민감정보 입력 사고가 3건 났다더라. 한 엔지니어는 오류 점검하겠다고 사내 데이터베이스 소스코드를 붙여넣었고, 다른 직원은 설비 결함 코드를, 또 한 명은 녹음한 내부 회의를 텍스트로 바꿔 회의록 만들려고 넣었다. 딱 내가 방금 하려던 짓이었다. 결국 삼성은 그해 5월 사내 기기에서 외부 생성형 AI 사용을 전면 금지했다(Forbes 보도).
두 번째 갈래도 실제로 있었다. 같은 2023년 3월, ChatGPT는 Redis 라이브러리 버그로 일부 사용자가 다른 사람의 대화 제목을 보는 일이 있었다. 특정 시간대엔 유료 구독자 약 1.2%의 결제정보 일부, 그러니까 이름·청구 주소·카드번호 끝 4자리까지 다른 사람에게 보였을 가능성이 있었다고 The Hacker News가 정리했다. 내가 아무리 조심해도 서비스 쪽에서 새면 답이 없다는 소리다.
서비스마다 기본값이 다르다는 걸 그제야 봤다
“학습에 쓰이나?”의 답은 서비스랑 요금제, 설정에 따라 다 다르다. 나는 셋 다 설정 메뉴를 직접 열어 어디를 끄는지 확인해봤다.
ChatGPT는 무료·Plus·Pro 개인 계정이면 대화가 모델 개선에 쓰이는 게 기본으로 켜져 있다. 내가 꺼야 빠진다. 웹에서 우측 상단 프로필 → 설정 → Data Controls(데이터 제어)로 들어가면 “Improve the model for everyone(모두를 위한 모델 개선)” 토글이 있는데, 이걸 끄면 새 대화부터 학습에서 빠진다. 1회성 질문이면 상단에서 임시 대화(Temporary Chat)를 켜는 방법도 있는데, 이건 기록에도 안 남고 학습에도 안 쓰인다더라.
Claude는 2025년에 크게 바뀐 쪽이다. Anthropic 공식 공지에 따르면 2025년 8월 28일 소비자 약관을 개정하면서, 이전엔 소비자 대화를 학습에 안 쓰던 것을 사용자가 opt-out 하지 않으면 대화를 학습에 쓰는 쪽으로 돌렸다. Free·Pro·Max 계정과 Claude Code가 대상이고, 끄는 건 설정 → Privacy Settings에서 한다. 마감일은 보도마다 조금씩 다르게 언급돼서 여기선 단정하지 않는다. 쓰는 사람이라면 앱에 뜨는 안내 팝업을 그냥 넘기지 말라는 정도만.
Gemini는 결이 또 다르다. Apps Activity가 켜져 있으면 대화가 학습에 쓰이는 것뿐 아니라 일부는 사람 검토자에게 전달된다고 Google 공식 도움말이 아예 명시해뒀다. myactivity.google.com/product/gemini에서 끌 수 있다. 여기까지 정리하니 표로 한 번 묶고 싶어졌다.
| 서비스 | 소비자 기본 학습 | opt-out 위치 |
|---|---|---|
| ChatGPT(무료·Plus·Pro) | 켜짐 | 설정→Data Controls |
| Claude(Free·Pro·Max) | 2025.8 이후 켜짐 | 설정→Privacy Settings |
| Gemini(개인) | 켜짐(Apps Activity) | myactivity에서 끄기 |
셋 다 회사용 판(ChatGPT Enterprise·Team, Claude for Work, Gemini for Workspace 등)은 계약상 학습에 안 쓰인다는 게 공통이었다. 회사 일이면 개인 계정 말고 이쪽을 쓰라는 흐름인 거다.
끄고 나서 오히려 헷갈린 지점
토글을 다 끄고 나니 마음이 놓였는데, 도움말을 더 읽다가 그 안심이 좀 성급했다는 걸 알았다.
학습 opt-out을 켜도 완전 삭제는 아니었다. ChatGPT는 안전·남용 방지 목적으로 메시지를 최대 30일 보관하고, Gemini는 운영용으로 최대 72시간 임시 보관한다. 더 걸리는 건 Gemini 쪽인데, 사람 검토용으로 선별된 대화는 계정 식별정보를 뗀 뒤 최대 3년 보관되고, 내가 대화를 삭제해도 그 검토 사본은 안 지워진다고 돼 있었다. Google이 도움말에서 “검토자가 보거나 서비스 개선에 쓰기를 원치 않는 기밀정보는 입력하지 마세요”라고 못 박아둔 이유가 이거였다.
규제 기관도 같은 얘기를 하고 있었다. 개인정보보호위원회가 2026년 5월 「생성형 AI 서비스 이용자를 위한 개인정보 보호 가이드」를 냈는데, 국민 상담 사례에서 체감도 높은 8대 이슈를 뽑았고 그중 핵심이 입력 내용의 학습 활용 여부와 업무 자료 입력 시 주의사항이었다. 이용자가 직접 쓸 통제 기능으로 opt-out, 대화 기록 저장·삭제 설정, 외부 서비스 연동 권한 관리를 꼽아뒀다. 나만 예민한 게 아니라 이게 상담 민원으로 쌓일 만큼 흔한 고민이었던 거다.
그래서 내가 세운 규칙
결국 답은 “챗봇 금지”가 아니었다. 그건 지켜지지도 않는다. 삼성도 전면 금지했다가 2026년 6월엔 OpenAI와 손잡고 임직원용 엔터프라이즈판을 도입했다니까. 금지가 아니라 뭘 넣고 뭘 안 넣느냐를 내가 정하는 쪽으로 가는 게 현실적이었다.
내가 세운 순서는 이렇다. 먼저 세 서비스 학습 opt-out을 다 꺼둔다. 그다음 애초에 안 넣을 것을 정했다. 주민번호 같은 고유식별정보, 카드·계좌번호, 내가 동의해줄 권한 없는 타인의 개인정보, 미공개 소스코드나 회의록 같은 회사 기밀. 넣어야 하면 실명은 “A씨”로, 회사명은 “우리 회사”로, 실제 숫자는 예시값으로 바꿔 맥락만 남긴다. 예전에 긴 문서를 통째로 붙여넣다 낭패 본 이야기를 쓴 적이 있는데, 그때는 분량이 문제였다면 이번엔 내용물이 문제였다. 내 블로그 글이 학습에 쓰이는 걸 막아본 이야기도 결국 같은 뿌리의 고민이었고.
한 가지만 스스로 정정하자면, “학습만 끄면 안전하다”는 내 처음 생각은 절반만 맞았다. 학습 opt-out은 모델에 흡수되는 것만 막지, 단기 보관·사람 검토·서비스 버그까지 막아주진 못한다. 가장 확실한 건 역시 애초에 안 넣는 거였다.
아까 멈춰뒀던 그 문서, 지금 다시 열어서 이름부터 지운다.
