2019-05-03から1日間の記事一覧

浮動小数点数

for( double i = 0 ; i <= 1 ; i += 0.1 ) の場合は11回ループする一方, for( float i = 0 ; i <= 1 ; i += 0.1 ) の場合は10回しかループしない。

浮動小数点数

=+0.1+0.4-0.5 = 0=+0.1-0.5+0.4 = 0=+0.4+0.1-0.5 = 0=+0.4-0.5+0.1 = 0=-0.5+0.4+0.1 = 0=-0.5+0.1+0.4 = 0=(+0.1+0.4-0.5) = 0=(+0.1-0.5+0.4) = 0=(+0.4+0.1-0.5) = 0=(+0.4-0.5+0.1) = 2.78E-17(=1/2^55)=(-0.5+0.4+0.1) = 2.78E-17(=1/2^55)=(-0.5+0.1…

浮動小数点数

=ROUNDDOWN(1.0-0.9,1) = 0.1=ROUNDDOWN(1.1-1.0,1) = 0.1=ROUNDDOWN(1.2-1.1,1) = 0=ROUNDDOWN(1.3-1.2,1) = 0.1=ROUNDDOWN(1.4-1.3,1) = 0

決定係数

定数に 0 を使用して回帰分析した場合と使用しなかった場合を比較すると,前者のほうが,説明変数の数が少ないにもかかわらず,決定係数が大きくなる場合がある。何故ならば,前者の決定係数は, となっているためである。なお,後者は, である。