mod(69.3,1.1)=1.1 は？？

あれ！？ゼロじゃないの！？ここは意外だったわ。


解析的なモジュロ演算と数値計算のモジュロ演算が、「割る数が小数」のときに食い違うのはなんとなく予想してたけど

ここで食い違ったのは予想外。


じゃあどんな演算してるんだ？
「69.3(割られる数)を1.1(割る数)で何回(13回)も引いて、1.1(割る数)より小さくなったらその引き算した答えを出す」
ってアルゴリズムじゃないの！？


それとも浮動小数点の二進数なところが効いてきちゃうんだろうか

ちなみにmod(69.3,1)=0.3　これは問題ない。予想通り。


ちなみにmod(6.4,0.2)とかmod(6.4,0.4)とかmod(6.4,0.8)はゼロだった。
でもちょっと待てよ
0.2って1/5だから、5の要素が入ってない二進数的には「割り切れない数」認識なんだよな


mod(6.5,0.5)=0
あ、これもうまくいった。

mod(67.5,0.5)=0
これも大丈夫。


どこが問題なんだ？とりあえず保留


あ、
mod(12.1,1.1)=1.1なんだけど
mod(11*1.1,1.1)=mod(1.1*11,1.1)=4.44e-16になる

mod(13.2,1.1)≠0
mod(12*1.1,1.1)=0
mod(1.2*11,1.1,)≠0
mod(13*1.1,1.1)≠0
mod(1.3*11,1.1)≠0
mod(14.3,1.1)≠0

なんだこれ


あ、傾向つかめてきた
mod(偶数*1.1,1.1)=0
mod(奇数*1.1,1.1)≠0

こうだ。
なんじゃこれ


にほんブログ村