Z80-μLM, 40KB 안에 담긴 ‘대화형 AI’
------------------------------
- *Z80-μLM* 은 1976년산 *Z80 프로세서(4MHz, 64KB RAM)* 위에서 동작하는 초소형 *대화형 인공지능 모델*
- *양자화 인식 학습(QAT)* 을 적용해 2비트 가중치와 16비트 정수 연산만으로 *문자 단위 텍스트 생성* 수행
- 약 *40KB 크기의 .COM 실행 파일* 안에 추론 엔진, 가중치, 채팅 UI가 모두 포함 …
------------------------------
https://news.hada.io/topic?id=25430&utm_source=googlechat&utm_medium=bot&utm_campaign=1834
If you have a fediverse account, you can quote this note from your own instance. Search https://sns.lemondouble.com/notes/agvk3q9gbi on your instance and quote it. (Note that quoting is not supported in Mastodon.)