ExcelVBA 一口講座 浮動小数点の精度
- 2013/09/12 03:16:39 投稿
- 再生数：351
- マイリスト数：2
ExcelVBAでの浮動小数点の精度について説明するよゆっくりとオプーナのExcelVBA講座 [ mylist/36464404 ] IEEE754-Wikipedia http://ja.wikipedia.org/wiki/IEEE_754VBA のIntやFixはバグっているのか？自分の環境の浮動小数点レジスタの精度を調べる方法を記述してるよ！ http://needtec.exblog.jp/20446142/