2011-02-18から1日間の記事一覧

浮動小数点はむずかしいですね

2.2250738585072011e-308 というのは、なかなか厄介な数値らしい。Java もこの数値を文字列に変換したりするのが苦手らしい。Ruby では、どうか? RUBY_VERSION # => "1.9.2" bang = '2.2250738585072011e-308' bang.to_f # => 2.225073858507201e-308 bang.t…