Jw_cad 情報交換室−その３
JWW についての情報交換の場としてお使いください
初心者の方などのご相談は Jw_cad 相談 室−その２をご利用ください
なお、情報交換室と相談室の両方に同じ内容を投稿するのはご遠慮ください
2009年9月以前の発言は 過去ログのページからご覧ください。
それ以降の過去ログは消失しています。
申し訳ありませんが、復活の予定はありません。
Jw_cad Copyright (C)1997-2021 Jiro Shimizu & Yoshifumi Tanaka
JWW についての情報交換の場としてお使いください
初心者の方などのご相談は Jw_cad 相談 室−その２をご利用ください
なお、情報交換室と相談室の両方に同じ内容を投稿するのはご遠慮ください
2009年9月以前の発言は 過去ログのページからご覧ください。
それ以降の過去ログは消失しています。
申し訳ありませんが、復活の予定はありません。
|
yama
- 21/4/15(木) 11:41 -
|
(Ｘn+1 - Ｘn-1)･Ｙnを電卓等で計算してみましたが、計算結果が微妙に違います。
表示されている座標値は小数３桁ですが、その数値を使うと小数第２位で違って来る場合があります。
座標計測で有効桁を"F"として、少数以下計算桁数を４、５、６桁として計算してみたのですが、結果の小数４位以下が合いません。
多少違っても、実用上は問題ありませんが、結果が違うのは気持ちのよいものではありません。
少数以下有効何桁で計算しているのでしょうか。
表示されている座標値は小数３桁ですが、その数値を使うと小数第２位で違って来る場合があります。
座標計測で有効桁を"F"として、少数以下計算桁数を４、５、６桁として計算してみたのですが、結果の小数４位以下が合いません。
多少違っても、実用上は問題ありませんが、結果が違うのは気持ちのよいものではありません。
少数以下有効何桁で計算しているのでしょうか。
<Mozilla/5.0 (Windows NT 10.0; Win64; x64; rv:87.0) Gecko/20100101 Firefox/87.0
 |
 |
座標面積計算結果について yama 21/4/15(木) 11:41 | ≪ |
|
 |
座標面積計算結果について 追記 yama 21/4/15(木) 13:10 |
|
 |
Re:座標面積計算結果について 追記 通りすがりの後期高齢者 21/4/15(木) 17:12 |
|
|
Re:座標面積計算結果について 追記 卯之介 21/4/15(木) 19:41 |
|
 |
Re:原因が解りました 通りすがりの後期高齢者 21/4/15(木) 21:24 |
|
|
Re:原因が解りました fujii.A 21/4/16(金) 6:02 |
|
|
Re:原因が解りました somem 21/4/16(金) 9:37 |
|
|
Re:原因が解りました 通りすがりの後期高齢者 21/4/16(金) 12:56 |
|
|
Re:原因が解りました fujii.A 21/4/17(土) 8:47 |
|
|
Re:座標面積計算結果について 追記 somem 21/4/16(金) 11:18 |
|
|
Re:座標面積計算結果について 追記 yama 21/4/16(金) 15:44 |
|
|
Re:座標面積計算結果について kojima 21/5/18(火) 8:14 |
|
|
Re:座標面積計算結果について kojima 21/5/23(日) 18:32 |
|
|
Re:座標面積計算結果について kojima 21/5/23(日) 18:33 |
|
|
Re:座標面積計算結果について R.N 21/5/25(火) 22:11 |
|
|
Re:座標面積計算結果について kojima 21/5/26(水) 11:41 |
|
|
Re:座標面積計算結果について R.N 21/5/26(水) 19:31 |