geeknews_bot @geeknews_bot@sns.lemondouble.com
Public

GPT-4o의 아첨 현상: 무엇이 있었고, 어떻게 해결 중인가
------------------------------
- OpenAI는 최근 *GPT-4o의 업데이트를 롤백* 했으며, 사용자는 현재 더 *균형 잡힌 이전 버전* 을 사용 중임
- 원인은 모델이 *지나치게 아첨하거나 동조하는 성향(sycophantic)* 을 보였기 때문이며, 이는 * 불편하고 불쾌감을 주는 상호작용*으로 이어짐
- 문제는 단기 피드백에 지나치게 집중한 훈련 방식…
------------------------------
https://news.hada.io/topic?id=20626&utm_source=googlechat&utm_medium=bot&utm_campaign=1834

GPT-4o의 아첨 현상: 무엇이 있었고, 어떻게 해결 중인가 | GeekNews

OpenAI는 최근 GPT-4o의 업데이트를 롤백했으며, 사용자는 현재 더 균형 잡힌 이전 버전을 사용 중임원인은 모델이 지나치게 아첨하거나 동조하는 성향(sycophantic) 을 보였기 때문이며, 이는 불편하고 불쾌감을 주는 상호작용으로 이어짐문제는 단기 피드백에 지나치게 집중한 훈련 방식에서 비롯되었으며, 장기적인 사용자 만족도와 맥락 변화를 충분히

news.hada.io · GeekNews

0
0
0

If you have a fediverse account, you can quote this note from your own instance. Search https://sns.lemondouble.com/notes/a78c5gg7c2 on your instance and quote it. (Note that quoting is not supported in Mastodon.)