웹기획 하던 시절, 회원가입 화면에 ‘약관 전문 보기’ 버튼을 넣으면서 속으로 생각했다. 이거 누가 누르겠어. 그 버튼을 그려 넣던 사람이 지금 외주 계약서 앞에서 스크롤만 내리고 있다. 업보다 업보.
그래서 AI 계약서 검토를 해보기로 했다. 챗봇한테 넣으면 “이 계약서는 괜찮습니다” 아니면 “위험합니다” 정도는 말해줄 줄 알았다. 그런데 이건 절반만 맞는 말이다. 말은 해준다. 문제는 그 판정을 믿을 근거가 나한테 하나도 없다는 거였다.
‘괜찮은 계약서인가요’가 제일 쓸모없는 질문이었다
첫 질문이 정말 그거였다. 이 계약서 괜찮아? 돌아온 답은 그럴듯했다. 전반적으로 표준적인 구성이고, 몇 가지 확인이 필요하다고. 아는 게 하나도 안 늘었다.
넣기 전에 한 일은 있다. 이름, 연락처, 계좌번호, 사업자번호, 상대 회사명, 단가를 전부 지우고 갑·을, A사, [금액]으로 바꿨다. 챗GPT는 설정의 데이터 제어에서 ‘모두를 위한 모델 개선’을 꺼두면 새 대화가 학습에 안 쓰이고, 임시 채팅은 기록에 안 남는 대신 안전 목적으로 최대 30일 보관될 수 있다는 걸 OpenAI 도움말에서 직접 확인했다. 2026년 10월 기준이고, 메뉴 이름은 종종 바뀐다. 회사 자료 넣을 때 고민했던 얘기는 AI 챗봇에 회사 자료 넣어도 되나에 따로 적어뒀으니, 여기선 가리는 순서만.
참, 챗봇이 “법률 자문은 할 수 없다”고 매번 덧붙이는 게 겸손인 줄 알았는데 정책이었다. Legal IT Insider 보도를 보면 OpenAI는 2025년 10월 29일 이용 정책에 ‘면허가 필요한 맞춤형 조언(법률·의료 등)을 전문가 관여 없이 제공하는 것’을 금지 항목으로 적었다. OpenAI 측은 원래부터 법률 자문을 대체하라고 만든 도구는 없었다는 설명을 냈고. 판정을 달라는 질문부터 방향이 틀렸던 거다.
AI 계약서 검토, 결론보다 원문 인용부터 시켰다
질문을 바꿨다. 판정 말고, 찾기를 시켰다.
- 내가(을이) 져야 하는 의무와 책임을 조항 번호와 원문 그대로 전부 뽑아줘
- 대금 지급 시기·방법·지연 시 처리 조항이 있는지, 없으면 ‘없음’이라고 말해줘
- 해지 사유를 갑·을로 나눠서, 을에게만 불리한 비대칭이 있는지
- ‘협의하여 정한다’, ‘갑이 정하는 바에 따른다’처럼 나중에 해석이 갈릴 문구 목록
원문 인용을 먼저 시킨 건 Claude 공식 프롬프트 가이드에서 본 방식이다. 긴 문서는 맨 위에, 질문은 맨 아래에 두고, 과제를 하기 전에 관련 부분부터 인용하게 하라는 내용이었다. 이 문서는 Claude 기준이라 다른 챗봇에서도 똑같이 좋아진다고는 못 하겠다. 다만 해봤더니 확실히 편해진 건 있었다. 조항 번호가 붙어 나오니까 원본을 옆에 펴놓고 한 줄씩 대조할 수 있게 된 거다.
제일 쓸모 있었던 건 두 번째, 없는 조항 찾기였다. 계약서는 있는 문장보다 빠진 문장에서 사고가 나니까. 그리고 하나 크게 헛짚었다. 업무 범위가 “별첨 과업지시서에 따른다”로 넘어가 있었는데, 그 별첨을 안 넣고 물었다. AI는 업무 범위가 명확하다고 했다. 본 적도 없는 문서를. 그 뒤로는 별첨·부속서가 언급되면 같이 넣거나, 안 넣었다고 먼저 말해둔다. 요약을 맡겼다가 ‘단’ 한 줄이 사라졌던 AI 요약 이야기랑 뿌리가 같은 실수다.
판례 번호가 나오면 일단 손을 멈춘다
한 번은 AI가 “대법원 판례에 따르면 이런 조항은 무효로 볼 수 있다”고 했다. 사건번호까지 붙여서. 오..마이.. 하고 국가법령정보센터랑 판례 검색에 넣어봤는데, 찾던 내용이 그 번호로는 안 나왔다.
이게 나만 겪는 일이 아니더라. 스탠퍼드 연구진 논문은 2024년 당시 미국 판례 리서치용 법률 특화 AI를 시험했는데, Lexis+ AI는 약 17%, Westlaw AI는 약 33% 질의에서 환각이나 근거 없는 답을 냈다. 법률 전용 도구조차 열 번에 두세 번. 지금 챗GPT·Claude·Gemini 수치는 아니지만, 이 숫자를 보고 나니 사건번호를 그냥 넘길 수가 없었다.
국내는 이미 법정까지 갔다. 머니투데이에 따르면 대법원은 2026년 3월 31일 AI가 만든 허위 판례 대응 방안을 내놓으면서, 허위 자료로 소송을 지연시키면 소송비용을 부담시키고 검증 없이 낸 변호사는 징계 의뢰할 수 있게 했다. 수원지법 판결문에는 피고가 든 판결들이 모두 AI로 인한 허위로 보인다는 문장까지 적혔다던데. 읽으면서 등이 좀 서늘했다. 변호사도 걸리는 걸 내가 안 걸릴 리가.
그래서 습관 하나는 확실히 정했다. AI가 법 조문이나 판례를 들면 국가법령정보센터에서 직접 찾기 전엔 없는 걸로 친다. 출처 링크를 눌러봤다가 엉뚱한 페이지가 떴던 AI 자료조사 이야기 때랑 같은 원칙이다.
구독 약관까지 넣어보고 나서 그은 선
계약서 말고 약관도 해봤다. 쓰는 구독 서비스 약관을 통째로 넣고, 공정거래위원회 불공정약관 심사 페이지에 나온 유형을 같이 붙였다. 사업자 고의·중과실 책임까지 면제, 과도한 손해배상, 해지권 부당 제한, 일방적 내용 변경, 동의 없이 동의한 걸로 간주하는 조항 같은 것들. 이 유형에 걸릴 만한 조항을 원문으로 찾아달라고 했다.
몇 개 짚어주긴 했다. 그런데 “이 조항은 무효입니다”라고 단정하는 순간부터는 믿지 않기로 했다. 그건 판단이 아니라 후보 표시다. 공정위 기준으로도 불공정 약관은 그 조항만 무효고 나머지 계약은 살아 있다. 어디까지가 불공정인지 가르는 건 내 몫도 AI 몫도 아닌, 상담 창구의 몫이었다.
AI가 해준 건 결국 상담 창구에 들고 갈 질문 다섯 개를 정리하는 거였다. 그 종이 한 장 들고 갈 곳은 이렇다.
| 상황 | 창구 |
|---|---|
| 계약서 검토 같은 복잡한 상담 | 대한법률구조공단 132 (방문상담 권장) |
| 취약계층 무료 법률상담 | 법무부 법률홈닥터 |
| 약관 심사·상담 | 공정위 약관 상담 1670-0007 |
| 서비스 이용 중 소비자 피해 | 1372 소비자상담센터 |
| 디자인·글 같은 창작 외주 | 예술인 신문고 |
132는 전화로는 간단한 내용만 되고 계약서 검토는 방문을 권한다고 안내돼 있다. 운영 시간은 자료마다 조금씩 달라서, 가기 전에 홈페이지를 한 번 더 보는 게 낫다. SW 쪽 외주라면 과학기술정보통신부가 2020년 말 배포한 SW 표준계약서도 있다. 내 계약서랑 같이 넣고 다른 조항만 뽑아달라고 하니, 처음의 “괜찮아?”보다 훨씬 손에 잡히는 답이 나왔다.
AI가 계약서를 대신 읽어주진 않는다. 대신 어디를 손가락으로 짚고 읽어야 하는지는 알려준다.
도장 찍기 전, 형광펜 뚜껑을 닫는 소리가 오늘따라 좀 또렷했다.
