SAP Note 2798 - Floating point arithmetic

Composant : Syntax, Compiler, Runtime -

Solution : https://service.sap.com/sap/support/notes/2798 (Connexion à SAP Service Marketplace requise)

Résumé :
Le type de données ABAP F (type DDIC FLTP) utilise l'arithmétique en virgule flottante binaire, ce qui peut introduire des erreurs d'arrondi. Lors de la conversion d'un nombre décimal en ce format binaire, un arrondi se produit, entraînant des écarts potentiels. Par exemple, la division de 2,55 par 0,1 peut donner 25,500...0 au lieu du 25,499...96 attendu, conduisant à un entier arrondi inattendu de 25 au lieu de 26. Un autre exemple montre que 7,27 % de 73 050 devient 5310,735; en raison des limitations binaires, il est représenté sous forme de 5,3107349999...97E+03, arrondi à 5310,73 au lieu de 5310,74. Utilisez le type P ou decfloat pour plus de précision.

Mots Clés :
floating pointthe abap data type, terms floating point reason, ddic data type fltp, binary floating point arithmetic, representable floating point number, largest floating point number [, decimal floating point arithmetic, floating point numbers, decfloat data types, rounding errors occur

Notes associées :

328894
207351Purch order:Invalid roundng accordng to roundng val
195544
185005
2541