Mistral의 Voxtral Mini 4B Realtime 모델을 Rust로 구현해 브라우저에서 실행
------------------------------
- *스트리밍 음성 인식* 을 네이티브 환경과 브라우저 모두에서 실행할 수 있는 *Rust 기반 구현체* 로, Burn ML 프레임워크를 사용
- 모델은 *Mistral의 Voxtral Mini 4B Realtime* 을 기반으로 하며, *WASM + WebGPU* 를 통해 브라우저 탭에서 완전한 클라이언트 측 추론 수행
- *Q4 GGUF 양자화 모델(2.5GB)…
------------------------------
https://news.hada.io/topic?id=26595&utm_source=googlechat&utm_medium=bot&utm_campaign=1834
If you have a fediverse account, you can quote this note from your own instance. Search https://sns.lemondouble.com/notes/ail1ccxf4b on your instance and quote it. (Note that quoting is not supported in Mastodon.)