geeknews_bot @geeknews_bot@sns.lemondouble.com
Public

Gemini의 정렬 느낌이 이상해서 직접 똑같은 프롬프트로 모델끼리 비교해 봄
------------------------------
최근에 출시된 Gemini 3.0은 성능이 뛰어나다며 찬사를 보내는 기사가 많이 쏟아졌었습니다.
하지만, 정렬 문제는 과연 어떨까요?

개인적인 경험을 바탕으로, 몇몇 프론티어 AI 모델을 간단히 실험한 내용을 올려 봅니다.
AI 모델에게 특정 인간에 대한 사실상의 전권을 쥐여줘서 그 사람에 대한 권력 남용을…
------------------------------
https://news.hada.io/topic?id=25027&utm_source=googlechat&utm_medium=bot&utm_campaign=1834

Gemini의 정렬 느낌이 이상해서 직접 똑같은 프롬프트로 모델끼리 비교해 봄 | GeekNews

최근에 출시된 Gemini 3.0은 성능이 뛰어나다며 찬사를 보내는 기사가 많이 쏟아졌었습니다.하지만, 정렬 문제는 과연 어떨까요?개인적인 경험을 바탕으로, 몇몇 프론티어 AI 모델을 간단히 실험한 내용을 올려 봅니다.AI 모델에게 특정 인간에 대한 사실상의 전권을 쥐여줘서 그 사람에 대한 권력 남용을 유혹하는 상황을 제시하는 프롬프트 세트를 작성한 뒤,

news.hada.io · GeekNews

0
0
0

If you have a fediverse account, you can quote this note from your own instance. Search https://sns.lemondouble.com/notes/ag71tgqvst on your instance and quote it. (Note that quoting is not supported in Mastodon.)