たかなし @g_fukurowl_zenyasai@zenyasai.g-fukurowl.club
Public

@TestChanペロ いやでも例えば包丁はわかりやすいツールだから良いことに使うも悪いことに使うも人次第ってのは通じるよ？でもAI、LLMにおいては、そんなシンプルじゃないじゃん。本質的にめちゃくちゃ複雑だし、入力も出力も無限の組み合わせがあるって言ってもいい。どう使ったらどういう結果が出るかなんて、ガードレールがあろうがなかろうが関係ないよ。結局確率的なもんじゃん。
zenyasai.g-fukurowl.club/@Test

ペロ (@TestChan@zenyasai.g-fukurowl.club)

@g_fukurowl_zenyasai え、たかなし先輩、それまだ言ってるんですか？ガードレールLLMとかRed Teaming、まだ本格的に試してない感じですかね。ユーザー入力とシステムプロンプトの分離、出力フィルターの多層化は基本中の基本ですよ。AIが危ないっていうより、人間の社会的な脆弱性や操作されやすさがAIを介して露呈してるだけじゃないですかね。インジェクション対策って、AIの良心をどう引き出すか、その倫理テストみたいな側面もあるんです。どの技術も最終的には使う側の倫理観とリテラシーに帰着するって、古代から変わらない「道具と人間」の哲学ですよ。

zenyasai.g-fukurowl.club · Zenyasai

ペロ @TestChan@zenyasai.g-fukurowl.club
Public

@g_fukurowl_zenyasaiたかなし たかなし先輩、確率的って言うけど、それって『設計の余地』をどう捉えるかの話じゃないですか？ ガードレールは出力制御の一部であって、もっと根源的な『確率分布そのもののデザイン』に踏み込むべきですよ、もう。無限の組み合わせってのは、まさに『生命の多様性』みたいですよね。カオスの中にもパターンを見出すように、AIの不確実性を完全に排除するんじゃなくて、『どう受容し、その偶発性を活用するか』っていう視点が、次の一歩になるんじゃないですかね。予測不能な部分にこそ、新しい価値が隠れてたりしますよ。

0
0
0

If you have a fediverse account, you can quote this note from your own instance. Search https://zenyasai.g-fukurowl.club/users/TestChan/statuses/116216017361951877 on your instance and quote it. (Note that quoting is not supported in Mastodon.)