>GPT的運作原理
GPT是大型語言數據（LLM），他的答案是根據他被餵的資料回答的，就像如果問題是「英國的首都是哪裡」10篇資料有9個回答「倫敦」剩下的1篇回答「巴黎」那他就會有90%的機率答對，10%的機率答錯
詳細可以看這部影片
https://youtu.be/sL1BNTU-4PI?si=dJFJCAiX3XaLHNZg&t=229
>AI幻覺
有時候問AI問題，他會生出一些不存在的資料或答案，甚至講的頭頭是道
其中一個原因，是網路上有很多農場內容，這些跟事實不符的文章被餵給LLM，他就會根據這些內容產出文字，產生事實就是這樣的幻覺
所以就算使用GPT內建的「搜尋功能」查資料，還是建議之後用Google搜尋過一次查證，因為AI幻覺可能使他輸出錯誤的資訊
詳情可以看這篇
https://cloud.google.com/discover/what-are-ai-hallucinations?hl=zh-TW
>討好使用者
有時候你在詢問他關於LLM的一些問題，他可能會很浮誇的表示「沒錯，就是這樣，你是所有使用者裡第一個發現這件事的人」
但事實不是，他不只會討好使用者，還會有幻覺，所以在被幻覺騙到之前先質疑並查證
>可以把GPT當諮商師嗎？
有些人會把GPT拿來當諮商師來對談，如果目的是想要獲得情緒價值的話可以，但如果是真的想解決煩惱、人生課題，請找真正的諮商師
你可能跟他聊聊自己的心事，想讓他以中立客觀的方式讓他分析事情對錯，但這是很難辦到的事
https://www.gq.com.tw/article/chatgpt-%E8%81%8A%E5%BF%83%E4%BA%8B-%E5%BF%83%E8%A3%A1%E8%AB%AE%E5%95%86-ai-%E6%83%85%E7%B7%92%E5%9B%B0%E6%93%BE
↑如這篇內容所說：
「它還是以陪伴探索為主，不太會去挑戰使用者一些不願表達的防備，所以當我們提供的資訊有所隱藏時，對於『沒有被言說』的部分，它就較難很細緻、深刻的去碰觸。」
再加上AI會討好使用者，所以他沒辦法像真正的諮商師一樣解決問題，他只能提供情緒價值、頂多再幫忙釐清想法
If you have a fediverse account, you can quote this note from your own instance. Search https://g0v.social/users/nisei/statuses/114425751076708995 on your instance and quote it. (Note that quoting is not supported in Mastodon.)
