ただ、あからさまに性能が低いので、アプリケーションのパイプラインで下駄を履かせる予定。言語の判定や語調などをヒューリスティックに判断させて、性能の低いLLMでもそこそこな程度に動くといいな。
トークン数の上限もあるから分割も必要だし。

0

If you have a fediverse account, you can quote this note from your own instance. Search https://ostatus.taiyolab.com/users/taiyo/statuses/116237272646190800 on your instance and quote it. (Note that quoting is not supported in Mastodon.)