かとじゅんの技術日誌

技術の話をするところ

2009-10-24から1日間の記事一覧

小数点の計算をやるからといってすぐにfloatやdoubleを使ってはいけない

おつかれさまです。型を選ぶというのはプログラミングの基礎中の基礎ですが、以外に開発の現場でも注意が必要なのが、floatとdoubleの精度の問題があります。これぐらい当然と思っていたのですが、最近よく耳にしますので、あえて言及wこれらの型の目的が科…