Indexへ
(4053)//【4054】→(4057)
------------------------
【タイトル】文字コマンドの式計算で
【記事番号】 4054 (*)
【 日時 】04/06/08 13:08
【 発言者 】タクマ PXA05441@nifty.ne.jp
皆さんこんにちは。
文字コマンドの式計算:たとえば2×3=で(ctrl+enter)2×3=6となる。
この機能なんですが、久しぶりに試したらちょっと不思議な現象が・・・・
全角での式計算は問題無くできますが、半角の式計算がおかしくなってます。
たとえば下記の通りです。
2X3=3,000
3060X26=0
3294X24=39,528,000
2220X26=0
結果が1/2の場合と0の場合が発生します。
どこかに設定カ所とかあるのでしょうか?
Indexへ
(4054)←【4057】→(4061)
------------------------
【タイトル】半角 X を使ってないですか
【記事番号】 4057 (4054)
【 日時 】04/06/08 14:40
【 発言者 】はじめ db_hazime@mis.ne.jp
>文字コマンドの式計算:たとえば2×3=で(ctrl+enter)2×3=6となる。
>この機能なんですが、久しぶりに試したらちょっと不思議な現象が・・・・
>全角での式計算は問題無くできますが、半角の式計算がおかしくなってます。
>たとえば下記の通りです。
>2X3=3,000
>3060X26=0
>3294X24=39,528,000
>2220X26=0
計算式に半角 X (エックス)を使ってないですか?
半角エックスは「クリッドの実寸値」の代数になります。
たとえばグリッドを図寸「 9.1 , 9.1」で1/100のとき X=910 ですから
2X3 は 2 * 910 * 3 = 5,460 になります。
Indexへ
(4057)←【4061】→(4058)
------------------------
【タイトル】RE: 半角 X を使ってないですか
【記事番号】 4061 (4057)
【 日時 】04/06/08 15:03
【 発言者 】タクマ PXA05441@nifty.ne.jp
はじめさんこんにちは。
>計算式に半角 X (エックス)を使ってないですか?
>半角エックスは「クリッドの実寸値」の代数になります。
>
>たとえばグリッドを図寸「 9.1 , 9.1」で1/100のとき X=910 ですから
>2X3 は 2 * 910 * 3 = 5,460 になります。
なるほど、そうだったんですか。普段は全角でしか使っていませんでしたので
気が付きませんでした。気を付けないといけませんね。>自分
Indexへ
(4061)←【4058】→(4059)
------------------------
【タイトル】Re(1):文字コマンドの式計算で
【記事番号】 4058 (4054)
【 日時 】04/06/08 14:44
【 発言者 】spam
▼タクマさん:
>全角での式計算は問題無くできますが、半角の式計算がおかしくなってます。
>たとえば下記の通りです。
>2X3=3,000
>3060X26=0
>3294X24=39,528,000
>2220X26=0
>
>結果が1/2の場合と0の場合が発生します。
>どこかに設定カ所とかあるのでしょうか?
半角のx、Xには目盛りのX値が保管されてるみたいです
他にもQとかCとかSとか(大文字小文字関係なし)あるみたいです
たまたまその時のXの値(目盛りX値)が0.5だったのだと。。。としても
3060X26=0?
↑
これは・・・
どうやら数値の最後に0があるとX=0としてるみたいですね
Indexへ
(4058)←【4059】//(4056)
------------------------
【タイトル】RE: 文字コマンドの式計算で
【記事番号】 4059 (4054)
【 日時 】04/06/08 14:51
【 発言者 】makuma makuma@desu.ne.jp_NOSPAM
>2X3=3,000
>3060X26=0
>3294X24=39,528,000
>2220X26=0
の「X」はエックスではだめなはずです。「*」か「×」などでないと。
違ってたらごめんなさい。
この関連の設定はないと思いますよ。
少数桁の設定なんかはありますけど。