Italia
Fonte/ Codesnippets

Auf 15 Stellen genaue Integer-Funktion per Floatingpoint-Variablen

 

p.specht

Wie das Ergebnis von print int(1e14):waitinput zeigt, ist die INT()-Funktion nur per 4-Byte-Integers gedacht. Wer aber denkt, ein einfaches round(a!-0.5, 0) würde reichen, der hat seine Rechnung ohne die Untiefen das Mathe-Paketes von Delphi gemacht. Das zeigt sich auch in XProfan.

Zum Beispiel ist es gar nicht leicht, dem System die Ausgabe von "Minus-Null" (-0.000000) abzugewöhnen und negative wie postive Zahlen gleich zu behandeln. Solange der Zahlenwert 15 Stellen nicht überschreitet, dürften die gröbsten Bugs jetzt aber beseitigt sein. Bitte um Verständnis, die Sache bleibt dennoch ohne jede Garantie ...
WindowTitle "Integer-Funktion per Floats bis 15 Stellen"
Cls:declare a!,sgn!:set("decimals",18)
repeat:print "\n Float-Wert: ";:input a!:print Intf(a!)

until 0

proc Intf :parameters a!

var sgn!=if(abs(a!)<val("1e-16"),0,if(a!<0,-1,1))
return val(format$("%g",sgn!*abs(round(abs(a!)-0.5,0))))

endproc

 
Computer: Gerät, daß es in Mikrosekunden erlaubt, 50.000 Fehler zu machen, zB 'daß' statt 'das'...
25.05.2021  
 



Zum Quelltext


Topictitle, max. 100 characters.
 

Systemprofile:

Kein Systemprofil angelegt. [anlegen]

XProfan:

 Posting  Font  Smilies  ▼ 

Bitte anmelden um einen Beitrag zu verfassen.
 

Topic-Options

1.516 Views

Untitledvor 0 min.
Erhard Wirth14.06.2024
H.Brill04.08.2023
p.specht21.11.2021
R.Schneider20.11.2021
Di più...

Themeninformationen

Dieses Thema hat 1 subscriber:

p.specht (1x)


Admins  |  AGB  |  Applications  |  Autori  |  Chat  |  Informativa sulla privacy  |  Download  |  Entrance  |  Aiuto  |  Merchantportal  |  Impronta  |  Mart  |  Interfaces  |  SDK  |  Services  |  Giochi  |  Cerca  |  Support

Ein Projekt aller XProfaner, die es gibt!


Il mio XProfan
Private Notizie
Eigenes Ablageforum
Argomenti-Merkliste
Eigene Beiträge
Eigene Argomenti
Zwischenablage
Annullare
 Deutsch English Français Español Italia
Traduzioni

Informativa sulla privacy


Wir verwenden Cookies nur als Session-Cookies wegen der technischen Notwendigkeit und bei uns gibt es keine Cookies von Drittanbietern.

Wenn du hier auf unsere Webseite klickst oder navigierst, stimmst du unserer Erfassung von Informationen in unseren Cookies auf XProfan.Net zu.

Weitere Informationen zu unseren Cookies und dazu, wie du die Kontrolle darüber behältst, findest du in unserer nachfolgenden Datenschutzerklärung.


einverstandenDatenschutzerklärung
Ich möchte keinen Cookie