Contrôle de l'arrondi et de la précision décimale dans les expressions numériques

Dans les calculs impliquant une multiplication ou une division, Analytics arrondit le résultat au plus grand nombre de décimales des deux opérandes. Cette méthode d'arrondi est associée au calcul en virgule fixe qu'Analytics utilise pour évaluer la plupart des expressions numériques.

Dans les expressions contenant plusieurs opérandes (par exemple, a*b/c), l'arrondi est appliqué à chaque étape de l'expression, en commençant par la première étape évaluée, puis en répétant l'opération jusqu'à ce que toute l'expression soit évaluée.

Remarque

Ne pas savoir comment fonctionne l'arrondi dans Analytics est une des causes d'erreurs de calcul les plus courantes dans Analytics.

Calcul en virgule fixe

Le comportement de l'arrondi dans Analytics est associé au calcul en virgule fixe qu'Analytics utilise pour les opérations numériques (à l'exception des fonctions financières). Analytics utilise le calcul en virgule fixe pour deux raisons :

  • Cela accélère le traitement.
  • Cela permet à l'utilisateur de contrôler le nombre de décimales et l'arrondi.

Arrondi dans les multiplications

Prenez l'expression 1,1 * 1,1. La bonne réponse est 1,21. Cependant, Analytics arrondit le résultat à une décimale parce que c'est le plus grand nombre de décimales dans les opérandes.

1,1 * 1,1 = 1,2

Si l'un des opérandes a deux décimales, Analytics arrondit la partie décimale du résultat au plus grand nombre de décimales dans les opérandes. Dans cet exemple précis, aucun arrondi n'est requis :

1,10 * 1,1 = 1,21

Arrondi dans les divisions

Prenez l'expression 7/3. Le résultat correct est 2,333... Cependant, Analytics arrondit le résultat sans chiffre après la virgule, car aucun des deux opérandes ne présente de valeurs décimales.

7/3 = 2

Si l'un des opérandes ou les deux ont des décimales, Analytics arrondit la partie décimale du résultat au plus grand nombre de décimales dans les opérandes.

7/3,00 = 2,33 
7,000/3,00 = 2,333

Contrôle de l'arrondi par ajout de décimales

La façon la plus simple de contrôler l'arrondi et d'obtenir la précision décimale désirée consiste à multiplier une expression par 1, suivie du nombre de décimales de précision que vous souhaitez dans le résultat. Par exemple, multipliez par 1,0000 pour vous assurer qu'un résultat est exact à quatre décimales près.

Exemple

Problème

Dans les expressions suivantes, Analytics arrondit le résultat à deux décimales, ce qui n'est pas assez précis pour vos besoins :

7,21 * 2,33 = 16,80
7,21 / 2,33 = 3,09

Solution

Pour augmenter la précision du résultat, multipliez par 1 suivi du nombre de décimales de précision que vous souhaitez :

1,0000 * 7,21 * 2,33 = 16,7993
1,000000 * 7,21 / 2,33 = 3,094421

Attention

Placez un 1 au début d'une expression. Si vous placez un 1 n'importe où ailleurs, il se peut que l'ajustement de la précision ne fonctionne pas, car la précision des deux premiers opérandes à évaluer a déjà entraîné l'arrondi :

7,21 * 2,33 * 1,0000 = 16,8000
7,21 / 2,33 * 1,000000 = 3,090000

Soyez vigilant avec l'utilisation des parenthèses

Soyez vigilant lorsque vous utilisez des parenthèses pour préciser l'ordre des opérations mathématiques. Si vous utilisez des parenthèses, il se peut que l'ajustement de la précision ne fonctionne pas, car la précision des opérandes dans les parenthèses a déjà entraîné l'arrondi :

1,0000 * (7,21 * 2,33) = 16,8000

Mettre un 1 à l'intérieur des parenthèses peut résoudre le problème :

(1,0000 * 7,21 * 2,33) = 16,7993

Comportement de l'arrondi dans les expressions à plusieurs opérandes

Le comportement de l'arrondi et la précision décimale fonctionnent de la même manière, quel que soit le nombre d'opérandes contenus dans une expression. Analytics arrondit le résultat au plus grand nombre de décimales dans deux opérandes, car les expressions sont évaluées par paires.

Cependant, en raison de la façon dont l'arrondi cumulatif fonctionne dans une expression contenant plusieurs opérandes, la précision décimale établie par les deux premiers opérandes à évaluer est la précision qui s'applique au résultat de l'expression.

Une autre caractéristique de l'arrondi cumulatif est que la perte de précision décimale augmente à chaque étape d'une expression à plusieurs opérandes.

Exemple de précision à deux décimales

Le tableau ci-dessous montre comment Analytics effectue l'arrondi en calculant l'expression à plusieurs opérandes suivante :

1,1 * 1,12 * 1,123 * 1,1234 = 1,5514

Le plus grand nombre de décimales dans la première étape évaluée de l'expression est deux ( 1,1 * 1,12 ). Cette précision à deux décimales persiste pendant tout le reste de l'expression à plusieurs opérandes (indiquée par les chiffres en rouge).

La colonne Différence de résultat montre comment la perte de précision cumulative augmente à chaque étape successive de l'évaluation.

Calculs Analytics

(dans l'ordre d'évaluation)

Résultat Analytics

(arrondi)

Calculs non arrondis

(dans l'ordre d'évaluation)

 

Résultat non arrondi

 

Différence de résultat

1,1 * 1,12 1,23 1,1 * 1,12 1,232 0,002
1,23 * 1,123 1,381 1,232 * 1,123 1,383536 0,002536
1,381 * 1,1234 1,5514 1,383536 * 1,1234 1,5542643424 0,0028643424

La précision à la loupe

Dans la colonne Résultat ACL (arrondi), toutes les décimales suivant les deux premières sont imprécises par rapport au Résultat non arrondi correspondant. Le degré d'imprécision est probablement votre principale préoccupation lorsque vous effectuez des calculs numériques dans le cadre de l'analyse des données.

Les résultats arrondis ne sont pas imprécis dans le contexte des calculs par paires spécifiques qui les produisent. Par exemple, 1,23 * 1,123 = 1,38129, qui, arrondi à trois décimales près, conformément à la règle, correspond à 1,381. Toutefois, 1,23 était auparavant un arrondi de 1,232, ce qui signifie que le calcul par paire spécifique contient déjà un certain degré d'imprécision.

Exemple de précision à cinq décimales

Le tableau ci-dessous montre comment Analytics applique l'arrondi après l'ajout de 1,00000 pour indiquer cinq décimales de précision :

1,00000 * 1,1 * 1,12 * 1,123 * 1,1234 = 1,55427

Le plus grand nombre de décimales dans la première étape évaluée de l'expression est cinq ( 1,00000 * 1,1 ). Cette précision à cinq décimales persiste pendant tout le reste de l'expression à plusieurs opérandes (indiquée par les chiffres en rouge).

Calculs Analytics

(dans l'ordre d'évaluation)

Résultat Analytics

(arrondi)

Calculs non arrondis

(dans l'ordre d'évaluation)

Résultat non arrondi Différence de résultat
1,00000 * 1,1 1,10000 1,00000 * 1,1 1,10000 0,00000
1,10000 * 1,12 1,23200 1,10000 * 1,12 1,23200 0,00000
1,23200 * 1,123 1,38354 1,23200 * 1,123 1,383536 0,000004
1,38354 * 1,1234 1,55427 1,383536 * 1,1234 1,5542643424 0,0000056576

Spécification de l'ordre des opérations

Le placement de parenthèses joue un rôle important dans la détermination du niveau de précision obtenu dans un calcul. Faites attention lorsque vous utilisez des parenthèses pour modifier l'ordre normal des opérations mathématiques.

Calcul de l'intérêt journalier

Scénario

Il vous faut calculer les intérêts journaliers pour 100 000 $ au taux de 12 % par an.

Première méthode

Vous pourriez d'abord calculer le taux d'intérêt par jour, puis multiplier le taux journalier par 100 000. Toutefois, avec cette approche, des problèmes d'arrondi se posent.

100000 * (0,12/365) = 0,00

Analytics divise d'abord 0,12 par 365, ce qui, à partir des règles d'arrondi dans Analytics, a pour résultat 0,00. Le véritable résultat est 0,00032876712..., mais parce que le résultat est arrondi à deux décimales, tous les chiffres suivants sont perdus.

Le résultat arrondi est alors multiplié par 100000, ce qui donne 0,00, même si la bonne réponse est 32,876712...

Autre méthode

Vous pourriez d'abord calculer le montant total des intérêts pour l'année, puis diviser ce montant par 365. Cette deuxième méthode évite le problème des arrondis.

100000 * 0,12/365 = 32,88

Une fois les parenthèses supprimées, à chaque étape du calcul, les résultats restent supérieurs à 1, ce qui évite les problèmes d'arrondi décimal ; ainsi, la réponse est correcte au centime près (deux décimales).

Modifier le fonctionnement de la précision décimale

Vous pouvez utiliser la commande SET MATH pour modifier le fonctionnement de la précision décimale dans les expressions numériques. Par défaut, Analytics utilise le plus grand nombre de décimales ou le nombre maximum de décimales lors de l'évaluation de deux opérandes. L'utilisation du nombre maximum préserve la plus grande précision à chaque étape d'une expression.

L'utilisation de SET MATH dans la ligne de commande ou dans un script Analytics modifie le comportement par défaut pour la durée de la session Analytics. Le résumé des options ci-dessous présente les différents résultats pour l'expression 1,275 * 1,3. Le résultat réel non arrondi est 1,6575.

Commande Description Résultat de 1,275 * 1,3
SET MATH FIRST utilise le nombre de décimales du premier opérande d'une paire d'opérandes 1,658
SET MATH LAST utilise le nombre de décimales du dernier opérande d'une paire d'opérandes 1,7
SET MATH MIN utilise le plus petit nombre de décimales dans une paire d'opérandes 1,7
SET MATH MAX

Par défaut

utilise le plus grand nombre de décimales dans une paire d'opérandes 1,658
Pour des informations détaillées sur SET MATH, consultez la rubrique Commande SET.