XProfan

Español

Erasmus.Herold

Hallöchen.

Yo habe folgendes Rundungsproblem.
Sombrero alguien una Concepto?

temp! = 64.975
imprimir "DEMO 1: ", temp!
temp! = ROUND(temp!,2)
imprimir "DEMO 2: ", temp!

Edición en el Bildschirm:
DEMO 1: 64.975000
DEMO 2: 64.970000

Yo erwarte aber:
DEMO 2: 64.980000

Gracias para eure Ideen.

13.11.2018 ▲

Vollständiges Zitat

Absatzweise Cita Zeilenweise Cita

p.specht

Das llamado Inkomensurabilität: El Zahl 64.975 es binär sólo algo a klein darstellbar. Abhilfe wäre hier sólo, con 1+1e-15 a multiplizieren, así el letzte el 16 signifikanten Stellen una "Schubs" erhält. Dann es aber irgend una otro Zahl a dieser ungünstigen Punto en el Zahlengeraden...

Man sieht qué como genau passiert, si uno se todos 17 Nachkommastellen Mostrar lässt.
Gruss

Kompilieren Marca Separación

Cls
Imprimir round(64.975*1.000000000000001,2)
imprimir
set("decimals",17)
imprimir 64.975
imprimir 64.975 * 1.000000000000001
waitinput

XProfan 11
Computer: Gerät, daß es in Mikrosekunden erlaubt, 50.000 Fehler zu machen, zB 'daß' statt 'das'...

13.11.2018 ▲

Vollständiges Zitat

Absatzweise Cita Zeilenweise Cita

Erasmus.Herold

Hammer!

Gracias - así versuche Yo mein Glück.

14.11.2018 ▲

Vollständiges Zitat

Absatzweise Cita Zeilenweise Cita

Respuesta

Tema opciones

Unreaded
subscribe
Remember-List
Notes
guests
Delete
Constantemente
Hecho

2.516 Views

Untitled	vor 0 min.
Michael Hettner	02.09.2021
Normann Strübli	31.03.2020
Stefan81	30.12.2019
Pk	01.12.2019
Más...

Themeninformationen

Dieses Thema ha 2 subscriber:

Erasmus.Herold (2x)

p.specht (1x)

XProfan

runden, como No gefällt ...

Respuesta

Tema opciones

2.516 Views

Themeninformationen

Política de Privacidad