DEC( ) 関数
指定された小数点以下の桁数で値または数式の結果を返します。
構文
DEC(数値, 小数位)
パラメーター
名前 | 種類 | 説明 |
---|---|---|
数値 | 数値 |
小数位の数を調節する値または結果。
|
小数位 | 数値 |
戻り値で使用する小数点以下の桁数。 |
出力
数値。
例
基本的な例
7.00 が返されます。
DEC(7, 2)
7.565 が返されます。
DEC(7.5647, 3)
7.56470 が返されます。
DEC(7.5647, 5)
高度な例
日歩の計算
Annual_rate というフィールドの日歩を小数点第 6 位まで求めるには、次のように指定します。
DEC(Annual_rate, 6) / 365
備考
DEC( ) の使用に適する場面
この関数は、フィールドで小数位を調整する場合や、値や計算結果の小数位を指定した桁数に丸める場合に使用できます。
DEC( ) は固定小数点端数処理を元に戻すことはできません
DEC( ) 関数を使用して、数式で固定小数点演算で実行される標準の端数処理を元に戻すことはできません。
例
Analytics で次の一連の式を検討します。
1.1 * 1.1 = 1.2 1.1 * 1.10 = 1.21 DEC(1.1 * 1.1, 2) = 1.20
固定小数点の端数処理は、1.1 * 1.1 の結果は 1.2 で、1.21 ではありません。これは端数処理されていない結果です。DEC( ) を使用して、小数点 2 桁の結果を指定しても、小数点 2 桁の精度は作成されません。代わりに、末尾のゼロが追加され、精度を上げずに、指定された小数点桁数を作成します。
小数点精度を増やす方法については、数式の端数処理と小数点精度の制御を参照してください。
関連する関数
値を最も近い整数に丸めたい場合は、ROUND( ) 関数 関数を使用してください。