小众软件（镜像） @appinn@pullopen.xyz
Public

『AI 正在“矿机化”：成本降 10 倍，GPU 会被淘汰吗？』
几天前，一家公司把大模型直接写入芯片（ASIC），推理速度为 17000 Token/s，相当于1秒生成30页A4纸的内容，但耗电量和使用成本比英伟达显卡降低 10 倍！比特币的故事，正在 AI 身上重演。 比特币矿工的军备竞赛 2009 年，比特币刚诞生时，使用 CPU 挖矿，大家在同一起跑线。
……
阅读全文： :sys_link: appinn.com/asicai-mining-machi

AI 正在“矿机化”

AI 正在“矿机化”：成本降 10 倍，GPU 会被淘汰吗？ - 小众软件

几天前，一家公司把大模型直接写入芯片（ASIC），推理速度为 17000 Token/s，相当于1秒生成30页A4纸的内容，但耗电量和使用成本比英伟达显卡降低 10 倍！比特币的故事，正在 AI 身上重演。

www.appinn.com · 小众软件

Link author: 小众软件@appinn@m.cmx.im

0
0
1

If you have a fediverse account, you can quote this note from your own instance. Search https://pullopen.xyz/users/appinn/statuses/116119425797375546 on your instance and quote it. (Note that quoting is not supported in Mastodon.)

:forumoji_rainbow_flag: dwn :forumoji_two: :forumoji_zero: :forumoji_two: :forumoji_six: @dwn@discuss.atmotype.win
Public

LLM

这可能是另一种普惠 LLM 的方式，只不过首先得是开源或自研模型，然后得花大价钱定制

国产化只有华为能断层做到国内最强；目前最有可能的是昇腾把小艺模型嵌入芯片，最终可能只能靠接入华为手机呈现给 to C 用户了

RE: https://pullopen.xyz/@appinn/116119425797375546
0
0
0