한동안은 프롬프트가 길수록 좋은 줄 알았다.
원하는 답이 안 나오면 설명을 더 붙였다. 배경도 더 깔고, “이런 뉘앙스로, 저런 톤으로, 전문적이면서도 친근하게” 같은 수식어를 잔뜩 얹었다. 그러면 뭔가 더 정성 들인 지시 같았고, 모델도 알아들어 줄 것 같았다. 그런데 답은 오히려 더 흐리멍덩해지곤 했다. 열 줄짜리 주문을 넣었는데 돌아온 건 여전히 교과서 요약 같은 소리. 화면을 보다가, 이게 왜 이러지 싶었다.
AI 프롬프트 작성법이라고 하면 다들 뭘 더 넣을까부터 생각한다. 나도 그랬다. 근데 요즘은 반대로 간다. 답이 안 나오면 먼저 프롬프트를 줄인다.
“가장 긴 프롬프트가 가장 좋은 게 아니다”
이 생각이 바뀐 건 Anthropic 공식 가이드에서 한 문장을 보고 나서였다.
공식 프롬프트 가이드를 뒤늦게 읽다가, 가장 좋은 프롬프트는 가장 길거나 복잡한 프롬프트가 아니라 최소한의 필요한 구조로 목표를 안정적으로 달성하는 프롬프트라는 말이 나왔다. 처음엔 그냥 좋은 말이네 하고 넘겼는데, 그 문장이 며칠을 따라다녔다. 내가 프롬프트에 수식어를 잔뜩 붙이던 게 정성이 아니라 소음이었을 수도 있겠다는 생각이 들어서였다.
그러다 OpenAI 쪽 자료에서 비슷한 걸 봤다. 요즘 모델은 지시를 곧이곧대로, 거의 외과적으로 따르기 때문에 서로 부딪히는 주문이 예전보다 더 크게 성능을 갉아먹는다더라. 그러니까 내가 “친근하게” 써놓고 뒷줄에 “전문적으로”라고 또 써놓으면, 모델은 그 둘 사이에서 갈피를 못 잡고 밋밋한 중간값을 내놓는 거였다. 길게 쓸수록 이런 모순이 몰래 끼어들 자리도 많아진다. 읽고 나서야 알았다. 내 프롬프트가 길었던 게 아니라 서로 싸우고 있었던 거다.
그래서 요즘은 답이 이상하면 뭘 뺄지부터 본다. “잘”, “적당히”, “깔끔하게”, “센스 있게” 같은 말부터 지운다. 이런 단어는 나한테나 의미가 있지 모델한텐 그냥 안개다. “3문장 이하로”, “표 없이 문단으로”, “존댓말 빼고” 처럼 셀 수 있는 말로 바꾼다. 그것만 해도 답이 눈에 띄게 또렷해진다.
한 번에 완성하려던 게 문제였다
또 하나 붙잡고 있던 오해는, 프롬프트 한 방으로 완벽한 답을 받아내야 한다는 거였다.
그래서 첫 프롬프트에 모든 조건을 다 욱여넣으려 했다. 이것도 넣고 저것도 넣고, 혹시 몰라서 예외 상황까지 미리 다 적었다. 그럴수록 프롬프트는 길어지고 답은 산으로 갔다. 웹기획자로 일할 때 요구사항을 한 문서에 다 때려박으면 개발자가 오히려 헷갈려 하던 게 떠올랐다. 지금 내가 모델한테 딱 그러고 있었다.
실무에서 프롬프트를 오래 만진 사람들의 조언은 거의 반대였다. 완벽해 보이는 한 방 프롬프트보다, 짧게 여러 번 이어가는 대화가 거의 항상 낫다는 거다. 첫 답을 받아놓고 “더 짧게”, “두 번째 문단만 더 구체적으로”, “톤을 덜 딱딱하게” 하고 하나씩 방향을 잡아가는 편이 결과가 좋았다. 진짜 품질은 이 왕복에서 나온다는 말에 크게 고개를 끄덕였다. 나도 어느 순간부터 첫 답을 초안 취급하고 있었으니까.
챗봇 하나 켜놓고 이렇게 서너 번 주고받다 보면, 처음엔 뭉개져 나오던 게 어느새 내가 쓰려던 문장에 가까워진다. 예전에 거절이나 사과 메일을 쓸 때도 그랬다. 첫 답은 늘 너무 격식 있거나 너무 냉정했고, “조금만 부드럽게”, “이 문장은 빼고” 몇 번을 거쳐야 보낼 만한 게 나왔다. 그때는 그냥 번거롭다고 생각했는데, 지금 보면 그게 프롬프트를 고치는 정석이었다.
예시를 더 넣는 게 늘 정답은 아니더라
여기까지 쓰고 나니 스스로 좀 찔리는 게 있다.
프롬프트를 줄이라고 해놓고, 나는 오랫동안 반대 조언을 신봉했다. 원하는 결과물의 예시를 두세 개 보여주면 말로 설명 못 하는 톤까지 전달된다는 조언. 이건 지금도 대체로 맞다. 근데 최근 자료들을 보다가 단서가 붙는 걸 알았다. 스스로 사고하는 추론형 모델한테는 예시를 잔뜩 넣는 게 오히려 방해가 되기도 한다더라. 문제를 알아서 쪼개는 애한테 “이렇게 저렇게 단계 밟아” 하고 옆에서 참견하는 꼴이 되는 셈이다. 그러니까 “예시 많이 넣어라”는 조언도, 어떤 모델을 쓰느냐에 따라 반대가 될 수 있는 거였다.
여기서부터는 나도 좀 조심스럽다. 모델마다 성격이 다르고, 이쪽은 나온 지 얼마 안 된 얘기라 공식 문서에서까지 딱 잘라 확인한 건 아니다. 다만 확실한 방향은 있다. 잘 안 나오면 자꾸 뭘 더할까부터 고민하지 말 것. 목표 하나를 또렷하게 세우고, 군더더기를 걷어내고, 그래도 아쉬우면 그때 예시든 조건이든 하나씩 얹는 것. 순서가 이래야 헤매지 않았다.
Anthropic 가이드가 정리한 순서도 결국 그거였다. 명확하고 직접적인 지시부터 시작해라, 구체성과 맥락을 더해라, 특정 문제를 만났을 때에만 예시나 단계 지시 같은 고급 기법을 하나씩 얹어라. 나는 이걸 거꾸로 하고 있었다. 처음부터 고급 기법을 다 쏟아붓고, 답이 안 나오면 더 쏟아붓는 식.
프롬프트를 잘 쓴다는 게 뭘 많이 아는 거라고 생각했는데, 쓰다 보니 아니었다. 잘 못 쓴 걸 알아채고 덜어내는 감각에 더 가까웠다.
덜어내니 보였다.
