2015-02-27から1日間の記事一覧

シャープ EL-5160J-X 誤差が・・

単なる趣味で書いてますので、実用的にどうなのという話はまず置いておいて。 この電卓精度が悪い。I. 有名な tan(355/226)は、-7497264.149となり、正しくは、 -7497258.185なので、6桁目で誤差が発生しています。 II.∫(1-x^2)dx*4 をx範囲0〜1で積分は、3…