【ハルシオンブログ】floatの比較は気をつけようね?
こんにちは。
大坂です。
さて今週も小ネタです!
floatの比較をしてあれ?同じなのにtrueにならない!なんてことがたまーにありませんか?
こんな感じでやると結果がfalseになります。

floatの比較をするときは「Mathf.Approximately」を使用するのがいいようです。
Debugのところだけ変更して実行すると。

ちゃんとtrueになりますね!
ということで、floatの比較には「Mathf.Approximately」を使うのがいいよって話でした。
ではまたノシ
大坂です。
さて今週も小ネタです!
floatの比較をしてあれ?同じなのにtrueにならない!なんてことがたまーにありませんか?
こんな感じでやると結果がfalseになります。
float test_1 = 1.0f;
float test_2 = 0f;
for(int i = 0; i < 10; i++) {
test_2 += 0.1f;
}
Debug.Log(test_1 == test_2);

floatの比較をするときは「Mathf.Approximately」を使用するのがいいようです。
Debugのところだけ変更して実行すると。
Debug.Log(Mathf.Approximately(test_1, test_2));

ちゃんとtrueになりますね!
ということで、floatの比較には「Mathf.Approximately」を使うのがいいよって話でした。
ではまたノシ
Category: 開発日記(Unity)
« 【ハルシオンブログ】最近Photon触りだしたんだけど、難しいんですよ?だれかしっかり教えてちょんまげ! | 【ハルシオンブログ】基本の基本ですが、stringのSplitで複数文字を使った分割の方法。(簡単な内容ですいませんorz) »
コメント
| h o m e |