忍者ブログ
20080511~ 13と7と11の倍数の論理積は13と7と11の積の倍数である。 和ァ・・・
[1685] [1684] [1683] [1682] [1681] [1680] [1679] [1678] [1677] [1676] [1675]
前回同様、2進数の0.0001(10進数の1/16)の

小数点以下4桁目を4捨5入0捨1入すると0.001(10進数の1/8)になり

その小数点以下3桁目を4捨5入0捨1入すると0.01(10進数の1/4)になり

その小数点以下2桁目を4捨5入0捨1入すると0.1(10進数の1/2)になり

その小数点以下1桁目を4捨5入0捨1入すると1になってしまうので

四捨五入の連鎖は危険であるといえる。

もし、0.0001の小数点以下第3位を四捨五入して小数点以下第2位表示にしたい場合は
0.0001の小数点以下第4位を四捨五入した0.001を参照してはならず
0.0001の少なくとも小数点以下第4位以下までの情報を保有する、
つまり0.0001000・・・の小数点以下第3位「0」をいきなり参照して、0.00としなければならない


また、3進数や5進数などの奇数進数では繰上りまでの数が奇数になって
2進数の0捨1入や6進数の2捨3入などのように半分ずつに出来ず
状況はもっとややこしくなる
ような気がする

π進数など無理数進数だったら・・・そんなことはありえるのか?
ブログランキング・にほんブログ村へ
にほんブログ村

拍手[0回]

PR

コメント


コメントフォーム
お名前
タイトル
文字色
メールアドレス
URL
コメント
パスワード
  Vodafone絵文字 i-mode絵文字 Ezweb絵文字


トラックバック
この記事にトラックバックする:


忍者ブログ [PR]
カレンダー
10 2024/11 12
S M T W T F S
1 2
3 4 5 6 7 8 9
10 11 12 13 14 15 16
17 18 19 20 21 22 23
24 25 26 27 28 29 30
ブログランキング
ブログランキング参戦中
にほんブログ村 アニメブログ 深夜アニメへ
にほんブログ村 漫画ブログ SF・ファンタジー漫画へ
にほんブログ村 科学ブログ 自然科学へ
よかったらポチッとお願いします^^
最新CM
[12/30 buy steroids credit card]
[09/26 Rositawok]
[03/24 hydraTep]
[03/18 Thomaniveigo]
[03/17 Robertaverm]
最新TB
プロフィール
HN:
量子きのこ
年齢:
43
性別:
男性
誕生日:
1981/04/04
職業:
WinDOS.N臣T
趣味:
妄想・計算・測定・アニメ
自己紹介:
日記タイトルの頭についてるアルファベットは日記の番号です
26進数を右から読みます
例:H→7番目、XP→15(P)×26+23(X)=413番目。
A=0とする仕様につき一番右の桁はAにできませんのでご了承くださいズコー
バーコード
ブログ内検索
アクセス解析