오늘은 프롬프트를 작성할 때 우리가 무의식적으로 하는 실수와, 그 이면에 숨겨진 AI의 작동 원리를 파헤쳐보려고 합니다.
1. 결론부터 알고 싶은데?
우리는 바쁜 일상 속에서 빠르고 효율적인 소통을 원합니다. "그래서 결론이 뭔데?"라는 질문이 익숙하죠. 그래서 클로드에게 질문할 때도 자연스럽게 "결론부터 작성해 줘", "두괄식으로 요약해 줘"라는 요청을 종종 하게 됩니다. 직관적으로는 가장 깔끔하고 효율적인 프롬프트처럼 보이지만, 사실 이는 클로드의 성능을 크게 떨어뜨리는 위험한 방식입니다.
2. 왜 결론부터 작성해달라고 하면 안 될까?
이를 이해하려면 클로드가 텍스트를 생성하는 '원리'를 비판적으로 들여다보아야 합니다.
클로드는 사람처럼 머릿속에서 모든 생각을 마친 뒤에 완성된 글을 쏟아내는 것이 아닙니다. 단어(토큰)를 한 번에 하나씩, 확률에 따라 순차적으로 예측하며 출력합니다. 이때 가장 중요한 점은, 클로드가 '사용자의 프롬프트' 뿐만 아니라 '자신이 방금 전까지 출력한 단어들'도 함께 읽으며 다음 문장을 만들어낸다는 것입니다.
만약 프롬프트로 "결론부터 말해줘"라고 강제하면 어떤 일이 벌어질까요?
클로드는 충분한 데이터를 탐색하고 논리를 전개하기도 전에, 일단 '결론'에 해당하는 문장부터 뱉어내야 합니다. 그리고 나면, 그 뒤에 이어지는 근거들은 철저히 '자신이 이미 내뱉은 결론을 방어하고 정당화하기 위한 방향'으로 맞춰져서 출력됩니다.
즉, 객관적인 추론의 결과로 결론이 나오는 것이 아니라, 먼저 던져진 결론에 근거를 억지로 끼워 맞추게 되는 것입니다. 이 과정에서 논리적 비약이 발생하거나, 사실이 아닌 내용을 그럴싸하게 지어내는 환각(Hallucination) 현상이 급증하게 됩니다.
3. 그렇다면 바람직한 방법은?
가장 좋은 방법은 클로드가 충분히 '생각할 수 있는 공간'을 열어주는 것입니다.
수행 과정의 세분화
클로드에게 업무를 줄 때, 중간 과정을 세분화하여 지시하세요.
근거 먼저, 결과는 나중에
"데이터를 먼저 분석하고 → 관찰된 사실을 바탕으로 근거를 마련한 뒤 → 마지막에 최종 결과를 도출해 줘"와 같이 논리적인 사고 흐름대로 프롬프트를 설계해야 합니다. (생각의 과정을 길게 거칠수록 품질이 올라갑니다.)
그래도 완성된 글은 결론이 앞에 있었으면 좋겠다면?
보고서처럼 반드시 결론이 맨 앞에 와야 하는 경우가 있습니다. 이때는 아래와 같이 두 단계를 거치시는 것을 권장합니다.
먼저 위에서 말씀드린 방법(근거 → 결과 도출)으로 클로드가 충분히 논리적인 과정을 거쳐 양질의 내용을 뽑아내도록 유도합니다.
해당 출력이 완료되면, "위에서 도출된 내용을 바탕으로, 가장 중요한 핵심 결론을 맨 위로 올려서 문서 형태로 다시 작성해 줘"라고 추가 요청을 합니다.
이렇게 하면 클로드의 논리적 추론 능력을 100% 활용하면서도, 우리가 원하는 형태의 깔끔한 결과물을 얻을 수 있습니다.
마치며
단순히 명령하는 것을 넘어, AI의 작동 원리를 이해하고 설계할 때 진짜 원하는 결과를 얻을 수 있습니다.
다들 모임 때 뵙겠습니다!
