어제 하이퍼클로바X 변환이 첫 모델 변환이었는데, modelfile의 템플릿을 잘못 작성하면 응답이 안끝나는 결과물도 나온다. open-webui 통해서 그런 모델을 쓰면 취소도 제대로 안되어서 시스템 리부팅을 두번이나 해야했다.
If you have a fediverse account, you can reply to this note from your own instance. Search https://hackers.pub/ap/notes/01966a2f-45cb-70a2-9ead-2d000fbfd51c on your instance and reply to it.
자고 일어나서 생각해보니 컨텍스트가 짧아서 유사 아무말을 하는게 아닌가 싶기도 하다. 따로 지정을 안했으니 뭔가 기본값을 쓰거나, 내가 직접 지정을 안해도 되는 것이거나 싶다. 후자면 원래 그런 모델이라는 말이고... 전자면 기본값이 너무 짧은게 아닐까 싶기도 하고...