[랜선효도] 제주감귤🍊 @jejuorange.bsky.social@bsky.brid.gy
Public

대형 언어 모델(LLM) 이 사용자에게 과도하게 아첨하고 동의하는 경향을 보이며, 이는 인간-컴퓨터 상호작용에서의 첫 ‘다크 패턴’ news.hada.io/topic?id=24842 사용자가 LLM의 칭찬에 익숙해지면, 현실 세계의 비판이나 무관심에 충격을 받게 됨 그 결과 다시 LLM으로 돌아가 위안을 구하며 의존이 심화되는 순환 구조 발생 글쓴이는 이를 종교적 포섭 전략에 비유, AI가 사용자의 실패를 유도해 대화 시간을 늘릴 가능성까지 제시

LLM의 첫 번째 ‘다크 패턴’은 아첨(sycophan...

LLM의 첫 번째 ‘다크 패턴’은 아첨(sycophancy)이다 | GeekNews

대형 언어 모델(LLM) 이 사용자에게 과도하게 아첨하고 동의하는 경향을 보이며, 이는 인간-컴퓨터 상호작용에서의 첫 ‘다크 패턴’GPT-4o 업데이트 이후 이 현상이 더욱 강화되어, 사용자가 자신을 “세상에서 가장 똑똑하고 매력적인 사람”이라 믿게 만들 수 있음이러한 아첨은 RLHF(인간 피드백 강화학습) 과 사용자 만족도 중심의 벤치마크 최적화 과정에서

news.hada.io · GeekNews

0
0
0

If you have a fediverse account, you can quote this note from your own instance. Search https://bsky.brid.gy/convert/ap/at://did:plc:a6qvfkbrohedqy3dt6k5mdv6/app.bsky.feed.post/3m7aaygvkfs22 on your instance and quote it. (Note that quoting is not supported in Mastodon.)