Indexへ
(*)//【33647】→(33648)
------------------------
【タイトル】三斜面積計算
【記事番号】 33647 (*)
【 日時 】09/04/01 00:01
【 発言者 】じょうじ

三斜面積計算で、面積を出す練習をしています。
練習として、10ｍ×10ｍの正方形を三斜面積計算すると、
100�uにはならずに、99.6・・と表示されてしまいます。
これは一体なぜですか？


Indexへ
(33647)←【33648】//(33651)
------------------------
【タイトル】Re(1):三斜面積計算
【記事番号】 33648 (33647)
【 日時 】09/04/01 00:51
【 発言者 】kubo

▼じょうじさん：
>三斜面積計算で、面積を出す練習をしています。
>練習として、10ｍ×10ｍの正方形を三斜面積計算すると、
>100�uにはならずに、99.6・・と表示されてしまいます。
>これは一体なぜですか？


小数点以下の丸めによる誤差です。

10ｍ×10ｍの正方形　だと三斜計算は
(√2×10)×(√2×10/2)/2×2　となります。
小数点表示すると
(1.41421356･･･*10)*(1.41421356･･･*10/2)/2*2
となりますが、三斜外変標準での小数点以下2位で丸めると
14.14*(14.14/2)/2*2=99.96987 となります。
（99.6･･･ は 99.96･･･ の記述誤りかと）