Gerbil - 로컬 LLM 실행용 데스크톱 앱
------------------------------
- 개인 하드웨어에서 LLM 을 손쉽게 실행하도록 설계된 *그래픽 UI 도구*
- 백엔드 관리, 모델 다운로드, 하드웨어 가속 설정 등 복잡한 과정을 자동화
- llama.cpp를 포크한 KoboldCpp 기반으로 동작하며 텍스트 및 이미…
------------------------------
https://news.hada.io/topic?id=25965&utm_source=googlechat&utm_medium=bot&utm_campaign=1834
If you have a fediverse account, you can quote this note from your own instance. Search https://sns.lemondouble.com/notes/ahpf9ahmnp on your instance and quote it. (Note that quoting is not supported in Mastodon.)