'모른다'고 말 못하는 AI…환각 통제하는 알고리즘은 '인간의 주의력'
www.dongascience.com/news.php?idx...
"결과적으로 AI의 확률적 학습 방식이 AI가 내용의 진실성보다 형식적인 자연스러움을 중시하며 작동하도록 만든 것이다. AI는 사실을 이해하기보다는 언어의 패턴과 문맥의 자연스러움에 최적화된 답변을 생성하도록 학습됐기 때문이다."
'모른다'고 말 못하는 AI…환각 통제하는 알고리즘은 ...
If you have a fediverse account, you can quote this note from your own instance. Search https://bsky.brid.gy/convert/ap/at://did:plc:7reki7xuobtaq6iuqquznqby/app.bsky.feed.post/3marzop2ctc2z on your instance and quote it. (Note that quoting is not supported in Mastodon.)
