gpt-oss:20b가 많이 빠르길래 homeassistant에 연동 해볼까 했는데, 뭔가 모든 장치의 상태를 프롬프트로 작성해서 매번 넘기는 모양인지 짧은 문장에도 토큰 초과 에러가 뜨질 않나, 말도 안되게 느린 응답 속도가 나온다

0

If you have a fediverse account, you can reply to this note from your own instance. Search https://hackers.pub/ap/notes/019a3dcf-c1d9-7855-9337-48c2b024cee8 on your instance and reply to it.