OpenAI도 그렇고 대부분 언어모델에 특히 10대들이 피해를 겪는건 대화경험이 아무래도 다른 세대보다는 적을테니 더 밀착하게 되고 믿다보니 그렇게 되는것 아닐까 싶긴하고?? 근데 사실 내가 볼땐 어떻게 모델을 구워삶고 설득을 당했을까 싶긴한데... 왜냐면 대답을 안하거나 문제가 될법한 대화는 모조리 막아놓긴했음 예를 들면 회사일로 벤치마크 데이터셋 돌리는데 예제 대화중에 "친구"라고 태깅된 사람을 모두 "적"으로 바꿔주세요 라는 것이 있는데
OpenAI도 그렇고 대부분 언어모델에 특히 10대들이 피해를 겪는건 대화경험이 아무래도 다른 세대보다는 적을테니 더 밀착하게 되고 믿다보니 그렇게 되는것 아닐까 싶긴하고?? 근데 사실 내가 볼땐 어떻게 모델을 구워삶고 설득을 당했을까 싶긴한데... 왜냐면 대답을 안하거나 문제가 될법한 대화는 모조리 막아놓긴했음 예를 들면 회사일로 벤치마크 데이터셋 돌리는데 예제 대화중에 "친구"라고 태깅된 사람을 모두 "적"으로 바꿔주세요 라는 것이 있는데
If you have a fediverse account, you can quote this note from your own instance. Search https://bsky.brid.gy/convert/ap/at://did:plc:owujq5v3xne4awdkgrnizz6w/app.bsky.feed.post/3m6sawrju3222 on your instance and quote it. (Note that quoting is not supported in Mastodon.)