- ありがとうございました: 11
高精度計算
- トムカ
-
トピック投稿者
- オフライン
もっと少なく
その他
- BERT
-
- オフライン
もっと少なく
その他
- ありがとうございました: 749
4年7ヶ月前 #8859
by BERT
返信者 BERT トピックについて 高精度計算
こんにちはトム、
高精度の計算はまだ実験的な機能であるため、Web 上で情報を確認することはできません。
デフォルトの計算モードでは、列/計算に丸めを選択すると、この新しい丸められた値 (セルに表示) が次の計算で考慮されます。 あなたが見たもの、それがあなたの手に入れたものだ。 これは、列の結果を数回丸めると、一部の小数点以下が切り捨てられることも意味します。
高精度モードでは、すべてのセルの元の値が保持され、丸め機能はセルにデータを表示するときにのみ適用されますが、内部的には完全な数値が計算に考慮されるため、「高精度」です。 計算を N 回丸めることによって精度が失われることはありません。
このモードは非常に特殊な計算用でしたが、問題があればお知らせください
高精度の計算はまだ実験的な機能であるため、Web 上で情報を確認することはできません。
デフォルトの計算モードでは、列/計算に丸めを選択すると、この新しい丸められた値 (セルに表示) が次の計算で考慮されます。 あなたが見たもの、それがあなたの手に入れたものだ。 これは、列の結果を数回丸めると、一部の小数点以下が切り捨てられることも意味します。
高精度モードでは、すべてのセルの元の値が保持され、丸め機能はセルにデータを表示するときにのみ適用されますが、内部的には完全な数値が計算に考慮されるため、「高精度」です。 計算を N 回丸めることによって精度が失われることはありません。
このモードは非常に特殊な計算用でしたが、問題があればお知らせください