XProfan

Français

Erasmus.Herold

Hallöchen.

j'ai folgendes Rundungsproblem.
Hat quelqu'un une concept?

temp! = 64.975
imprimer "DEMO 1: ", temp!
temp! = ROUND(temp!,2)
imprimer "DEMO 2: ", temp!

Ausgabe sur dem Bildschirm:
DEMO 1: 64.975000
DEMO 2: 64.970000

je erwarte mais:
DEMO 2: 64.980000

merci pour eure idées.

13.11.2018 ▲

Vollständiges citation

Absatzweise Citation Zeilenweise Citation

p.specht

cela nennt on Inkomensurabilität: qui numéro 64.975 ist binär seulement quelque chose trop petite darstellbar. Abhilfe wäre ici seulement, avec 1+1e-15 trop multiplizieren, avec cela qui dernier qui 16 signifikanten se mettre une "Schubs" erhält. ensuite ist mais irgend une autre numéro à cette ungünstigen Stelle sur qui Zahlengeraden...

on voit quoi là oui c'est ca passiert, si on sich alle 17 Nachkommastellen Montrer peut.
Gruss

Kompilieren Marque Séparation

Cls
Imprimer round(64.975*1.000000000000001,2)
imprimer
set("decimals",17)
imprimer 64.975
imprimer 64.975 * 1.000000000000001
waitinput

XProfan 11
Computer: Gerät, daß es in Mikrosekunden erlaubt, 50.000 Fehler zu machen, zB 'daß' statt 'das'...

13.11.2018 ▲

Vollständiges citation

Absatzweise Citation Zeilenweise Citation

Erasmus.Herold

marteau!

merci - avec cela versuche je mon Glück.

14.11.2018 ▲

Vollständiges citation

Absatzweise Citation Zeilenweise Citation

répondre

Options du sujet

Unreaded
abonner
La liste de voeux
Notes
guests
Effacer
Permanent
Done

2.450 Views

Untitled	vor 0 min.
Michael Hettner	02.09.2021
Normann Strübli	31.03.2020
Stefan81	30.12.2019
Pk	01.12.2019
plus...

Themeninformationen

cet Thema hat 2 participant:

Erasmus.Herold (2x)

p.specht (1x)

XProfan

runden, comme Je ne comme ...

répondre

Options du sujet

2.450 Views

Themeninformationen

protection des données