2010-01-17から1日間の記事一覧
前回のエントリで書いたものですが、誤差が発生する原因がやっとわかりました。 例えば p 1 / 3 の結果が0になってしまいます。 「/」メソッドに1と3が代入される際、整数クラスとして扱われるために答えも0.3333…から整数部分の「0」だけが表示されてしまう…
前回のエントリで書いたものですが、誤差が発生する原因がやっとわかりました。 例えば p 1 / 3 の結果が0になってしまいます。 「/」メソッドに1と3が代入される際、整数クラスとして扱われるために答えも0.3333…から整数部分の「0」だけが表示されてしまう…