| Home > EZアプリ(BREW(R)) | 戻る |
FAQ - 電卓の使用
 sin(180)がゼロにならないのですが
|
| 演算上の誤差で、各三角関数は 1e-16 程度の誤差を生じます |
|
電卓の精度を教えてください
|
|
画面表示は 12 桁ですが、内部演算は IEEE754 に準拠した倍精度実数演算を行っており、16 桁程度の精度を持たせております。 ただし、引数などで桁落ちが生じる場合はこの限りではありません。 |
|
rtop、ptor とは何ですか？またどのような時に使用しますか
|
|
rtop は二次元デカルト座標から二次元極座標への変換です。2 rtop 2 = とすると、2.828...と表示され、次に RY キーを押すと 45 (Degモードの場合) が表示されます。 ptor は、この逆で、二次元極座標から二次元デカルト座標への変換です。 |
|
fix はどのような時に使用しますか
|
|
fix は、桁数指定の丸め操作です。 1.2345 fix -3 = と入力すると、小数点以下第４位で四捨五入し、1.2345 と表示されます。 主に、計算結果の表示のために使用します。 |
|
jn( x , y )、yn( x , y )について引数値（定義域）の制限はありますか
|
|
jn ( x , y )、yn ( x , y ) の y は整数である必要があります。引数の絶対値については、制限はありません。 x の絶対値が、PI*252 を超えると制度的な意味はありませんので、引数エラーになります。 |
|
999999999999 EXP 99 を計算しようとしたら、E1000 エラーになりました
|
|
扱える絶対値の上限は、9.999999999991e99 です。 表記のように入力すると、9.999999999991e110 になるので、オーバーフローエラーになります。 |
Izumi Cyber Networks Inc.