Claude Code가 모델이 하지도 않은 말을 했다고 하는 이유.

자손킴 @jasonkim@hackers.pub

Claude Code는 사용자의 첫 번째 요청을 처리할 때 대화 주제를 파악하고 제목을 생성하기 위해 '프리필(prefill)' 기법을 효과적으로 활용합니다. 이 기법은 API 요청의 마지막 메시지에서 어시스턴트(assistant)가 이미 응답을 시작한 것처럼 `{` 문자를 미리 제공하여, 모델이 자연스럽게 나머지 JSON 구조를 완성하도록 유도하는 방식입니다. 이는 단순히 특정 형식을 요구하는 지시보다 훨씬 강력하게 응답 형식을 강제할 수 있으며, JSON뿐만 아니라 특정 언어의 코드 블록이나 XML 등 다양한 정형 데이터를 생성할 때도 유용합니다. 인위적인 시작점 설정을 통해 모델의 출력을 정교하게 제어하는 이 전략은 안정적인 애플리케이션 개발을 위한 실무적인 프롬프트 엔지니어링(prompt engineering)의 핵심적인 사례를 보여줍니다.

Read more →
4

If you have a fediverse account, you can quote this article from your own instance. Search https://hackers.pub/ap/articles/019b18b8-fd21-7ec2-86b2-1d21dd6a97af on your instance and quote it. (Note that quoting is not supported in Mastodon.)