Shimmy - Ollama를 대체 가능한 개인 프라이버시 중심의 경량 OpenAI API 서버
------------------------------
- 로컬 환경에서 *LLM을 완전 오프라인으로 실행* 하기 위해 설계된 도구로, *Ollama보다 142배 작은 4.8MB 단일 바이너리* 형태 제공
- *OpenAI API와 100% 호환* 되어 기존 Python, Node.js, VSCode Copilot, Cursor, Continue.dev 등 개발 도구를 그대로 연결 가능
- 설치 직후 즉시 작동하는 *제로 설정(Ze…
------------------------------
https://news.hada.io/topic?id=24006&utm_source=googlechat&utm_medium=bot&utm_campaign=1834
If you have a fediverse account, you can quote this note from your own instance. Search https://sns.lemondouble.com/notes/aeg9mj06fz on your instance and quote it. (Note that quoting is not supported in Mastodon.)