gpt-oss:20b가 많이 빠르길래 homeassistant에 연동 해볼까 했는데, 뭔가 모든 장치의 상태를 프롬프트로 작성해서 매번 넘기는 모양인지 짧은 문장에도 토큰 초과 에러가 뜨질 않나, 말도 안되게 느린 응답 속도가 나온다
gpt-oss:20b가 많이 빠르길래 homeassistant에 연동 해볼까 했는데, 뭔가 모든 장치의 상태를 프롬프트로 작성해서 매번 넘기는 모양인지 짧은 문장에도 토큰 초과 에러가 뜨질 않나, 말도 안되게 느린 응답 속도가 나온다
If you have a fediverse account, you can reply to this note from your own instance. Search https://hackers.pub/ap/notes/019a3dcf-c1d9-7855-9337-48c2b024cee8 on your instance and reply to it.