Double型結果誤差

2015/05/06 2015/07/05

Double型では大きな数値や少数の計算をすると計算結果に誤差が生じます。
これはDouble型では扱える範囲を超えているからです。このような場合は、特別なクラスNSDecimalNumberを使います。

修正前
var number1:Double = 0.0

修正後
var number1:NSDecimalNumber = 0

＜Situation＞よくwebサイトで見かけるモーダルを UiBootstr …

芸人で言ったらただの一発芸です。 AngularJSを利用して、一つのclick …

スポンサードリンクランダム値を発生させるときの注意点。ランダム値を発生させる …

エラーがでている時に確認すべきポイントとして、大文字小文 …

AngularJS使って、基本的な動かし方は、山田の本でわかったけど、実際にw …

＜事象＞ rails consoleから単純にnewしたら以下のエラーが表示され …

Stinger5のテーマを使わせてもらって、ファビコンがディフォルトのままだった …

このエラーは、メモリが関係している記事がいくつか見つかった。 http://to …

スポンサードリンク「hasPrefix」を使うと文頭に含まれているかどうかをチ …

エラーとしてはSIGABRTが出ちゃうパターン。ログを見ると、「this c …