Q: 혹시 실수연산하실때 부동소수점을 사용하시나요 고정소수점을 사용하시나요 #neo_quesdon
A: 십진법 기반 가변비트 고정소수점 체계를 씁니다
캐시 크기랑 ALU 신뢰성이 좀 저열해서 오차가 종종 나기도 해요
https://neo-quesdon.serafuku.moe/main/user/@nulta@mi.rerac.dev/cmhk6hrt91lm3k70ivv3sgxr7
#neo_quesdon
Q: 혹시 실수연산하실때 부동소수점을 사용하시나요 고정소수점을 사용하시나요 #neo_quesdon
A: 십진법 기반 가변비트 고정소수점 체계를 씁니다
캐시 크기랑 ALU 신뢰성이 좀 저열해서 오차가 종종 나기도 해요
https://neo-quesdon.serafuku.moe/main/user/@nulta@mi.rerac.dev/cmhk6hrt91lm3k70ivv3sgxr7
#neo_quesdon
If you have a fediverse account, you can quote this note from your own instance. Search https://mi.rerac.dev/notes/aenqt1m2lxxr06iv on your instance and quote it. (Note that quoting is not supported in Mastodon.)