忍者ブログ
20080511~ 13と7と11の倍数の論理積は13と7と11の積の倍数である。 和ァ・・・
[134] [133] [132] [131] [130] [129] [128] [127] [126] [125] [124]
先日友人たちとメッセしていてある友人が「肉肉肉肉肉肉肉肉肉」といおうとして「292929292929292929」になってしまったことがあったんだがちょうど2が9個だったのに喜びだした僕は9で割り切れると興奮してエクセルにぶち込んでまず9で割ったあまりを求めてみようとしたところなぜか計算できなかったので割り算をしてみようと思ったらなぜ端数が出る。
なのでセルの中身を覗いてみたら2が8個しかなく0が後ろに3個ついているのも気になる

ということは浮動小数点表示で計算しちゃったってことじゃないか有効桁数15桁制限の。

だーかーらエクセルは桁の点で弱いんだって場。

その点窓ズについてる電卓ソフトは関数やボタンあたりの仕様から使い勝手こそほぼすべてにおいてエクセルに負けているが桁数制限は確かかーなーりゆるいか無制限だという記憶があるのでまさに一発逆転である。
まあ当然桁数が上がればあがるほど処理時間も長くなるわけだが。
その点についてはマセマティカだろうと容赦なくPCのスペックに制限されるだろう当たり前だ。
ていうかマセマティカは電卓とエクセル両方の上位互換なんじゃないのかちくしょう

拍手[4回]

PR


トラックバック
この記事にトラックバックする:


忍者ブログ [PR]
カレンダー
04 2024/05 06
S M T W T F S
1 2 3 4
5 6 7 8 9 10 11
12 13 14 15 16 17 18
19 20 21 22 23 24 25
26 27 28 29 30 31
ブログランキング
ブログランキング参戦中
にほんブログ村 アニメブログ 深夜アニメへ
にほんブログ村 漫画ブログ SF・ファンタジー漫画へ
にほんブログ村 科学ブログ 自然科学へ
よかったらポチッとお願いします^^
最新CM
[12/30 buy steroids credit card]
[09/26 Rositawok]
[03/24 hydraTep]
[03/18 Thomaniveigo]
[03/17 Robertaverm]
最新TB
プロフィール
HN:
量子きのこ
年齢:
43
性別:
男性
誕生日:
1981/04/04
職業:
WinDOS.N臣T
趣味:
妄想・計算・測定・アニメ
自己紹介:
日記タイトルの頭についてるアルファベットは日記の番号です
26進数を右から読みます
例:H→7番目、XP→15(P)×26+23(X)=413番目。
A=0とする仕様につき一番右の桁はAにできませんのでご了承くださいズコー
バーコード
ブログ内検索
アクセス解析