XProfan

Français

Jörg
Sellmeyer

Ganzzahliger Anteil de N. Es wird pas gerundet.

SubProc Get.Einer

    Paramètres Zahl&&
    declare f!
    Var Divisor& = 10
    f! = (Zahl&& / Divisor& - Int(Zahl&& / Divisor&))
    Zahl&& = (Zahl&& / Divisor& - Int(Zahl&& / Divisor&)) * Divisor&
    Retour (f! * Divisor&)

ENDPROC

SubProc Get.Zehner

    Paramètres Zahl&&
    declare f!
    Var Divisor& = 100
    f! = (Zahl&& / Divisor& - Int(Zahl&& / Divisor&))
    Zahl&& = (Zahl&& / Divisor& - Int(Zahl&& / Divisor&)) * Divisor&
    Retour (f! * Divisor&)

ENDPROC

Imprimer Int(Get("Einer",2020))
Imprimer "Warum venez ici seulement 19 raus?"
Imprimer Int(Get("Zehner",2020))
Imprimer
Imprimer Get("Einer",2020)
Imprimer "Als Floatausgabe richtig..."
Imprimer Get("Zehner",2020)
Imprimer "und avec Round auch"
Imprimer Int(Round(Get("Zehner",2020),0))
WaitInput

Windows XP SP2 XProfan X4
... und hier mal was ganz anderes als Profan ...

24.05.2018 ▲

Vollständiges citation

Absatzweise Citation Zeilenweise Citation

RGH

Salut,

cela liegt daran, dass es pas alle Ganzzahlen une exakte interne Bit-Entsprechung comme Fließkommazahl avons.

(c'est aussi qui Grund, pourquoi Vergleiche de Fließkommazahlen avec Ganzzahlen volontiers daneben aller et niemals verwandt volonté devrait.)

cet Zeilen montrer cela Problem:

Kompilieren Marque Séparation

CLS
Var Zahl& = 2020
Var Divisor& = 100
set("decimals",15)
imprimer "  ";Zahl& / Divisor&
set("decimals",6)
imprimer "  ";Zahl& / Divisor&
WaitInput
end

chez qui Defaulteinstellung de 6 Nachkommastellen, fällt es pas so léger sur. avec Round() peut sich cela Problem tourner autour de.

j'ai longtemps dans qui Finanzbranche programmiert et là était cela une stetige piège, qui à chacun coin puis wartete, dass on hineinfällt. cela Problem gibt es aussi dans JAVA, Delphi ou bien C, là es avec qui internen représentation de Fließkommazahlen des Prozessors trop 1faire hat.
quelques Sprachen bieten pour rundungsfehlerfreie Berechnungen daher BCD-Arithmetik à.

Salut
Roland

Intel Duo E8400 3,0 GHz / 4 GB RAM / 1000 GB HDD - ATI Radeon HD 4770 512 MB - Windows 7 Home Premium 32Bit - XProfan X4

24.05.2018 ▲

Vollständiges citation

Absatzweise Citation Zeilenweise Citation

Jörg
Sellmeyer

merci, cela erklärt es.

ici [...]

sommes un paire Opportunités, um cela sans Rundungsprobleme trop lösen.