:rss: DevelopersIO @dev_classmethod@rss-mstdn.studiofreesia.com
Public

スマホからも PC からも使えるプライベート LLM 環境 (Qwen 3.5-4B) を AWS に構築してみた
dev.classmethod.jp/articles/qw

スマホからも PC からも使えるプライベート LLM 環境 (Qwen 3.5-4B) を AWS に構築してみた | DevelopersIO

Claude や ChatGPT の障害に備えて、ローカル LLM (Qwen 3.5-4B) を AWS の GPU インスタンス上にセルフホストしました。Tailscale を使うことで、スマホからも PC からも同じ URL でプライベートにアクセスできます。Terraform のコード全文と、実際に使ってみた所感を紹介します。

dev.classmethod.jp · クラスメソッド発「やってみた」系技術メディア | DevelopersIO

0
0
0

If you have a fediverse account, you can quote this note from your own instance. Search https://rss-mstdn.studiofreesia.com/users/dev_classmethod/statuses/116176500761405749 on your instance and quote it. (Note that quoting is not supported in Mastodon.)