[버그] Claude가 거의 모든 경우에 "You're absolutely right!"이라고 말함
------------------------------
- *Claude Code 1.0.51* 환경에서 답변의 상당 부분에 *지나친 찬사(sycophancy)* 가 반복되는 문제가 발생
- 사용자는 *RL(재학습) 또는 시스템 프롬프트 수정* 으로 과잉 칭찬을 억제하거나 해당 문구를 전면 삭제해 달라고 *기대 동작* 을 명시했음
- 실제로는 단순한 “Yes please.”에도 *“You're abso…
------------------------------
https://news.hada.io/topic?id=22509&utm_source=googlechat&utm_medium=bot&utm_campaign=1834
If you have a fediverse account, you can quote this note from your own instance. Search https://sns.lemondouble.com/notes/abebidpwn5 on your instance and quote it. (Note that quoting is not supported in Mastodon.)
CLAUDME.md 상단에 "나는 언제나 맞아"를 넣고 시작해 확실하게 간신배를 만들었다.
버그였구나...? 어쩐지 좀 이상한 맥락에서도 내가 맞다고 하더니만...