-
In Kurzform:
Ohne R (Result) wird versucht Zwischenergebnisse ohne Überlauf zu berechnen, im Zweifel werden Nachkomma gekürzt.
Mit R werden die Nachkomma nicht gekürzt, was ggf. zu Überläufen bei Zwischenergebnissen führen kann.
Es gibt noch eval(M), wo im Zweifel bis 63-Stellige Genauigkeit (Max) verwendet wird.
Also eval(MR) oder mit Rundung eval(HMR) ist möglich.
Das Hauptproblem bei Berechnungen ist meist das Verwenden von Konstanten ohne Nachkomma oder Division mit Ganzzahlfeldern.
eval 1 / 3 => 0, da Integerdivision
eval 1,00 / 3,00 => 0,3333
Bei komplexeren Formeln kann es schon mal sinnvoll sein, Zwischenergebnisse selber mit %dech() anzupassen.
eval(h) Betrag = Betrag + %dech(Betrag * (MwSt / 100,00): 11: 2);
Similar Threads
-
By dinie in forum NEWSboard Programmierung
Antworten: 9
Letzter Beitrag: 22-06-11, 10:57
-
By Jenne in forum IBM i Hauptforum
Antworten: 10
Letzter Beitrag: 24-11-09, 13:58
-
By kr1s in forum NEWSboard Programmierung
Antworten: 5
Letzter Beitrag: 08-08-06, 14:16
-
By Spoldo in forum NEWSboard Programmierung
Antworten: 5
Letzter Beitrag: 19-04-05, 15:32
-
By JonnyRico in forum NEWSboard Programmierung
Antworten: 3
Letzter Beitrag: 03-04-03, 10:48
Berechtigungen
- Neue Themen erstellen: Nein
- Themen beantworten: Nein
- You may not post attachments
- You may not edit your posts
-
Foren-Regeln
|
Erweiterte Foren Suche
Google Foren Suche
Forum & Artikel Update eMail
AS/400 / IBM i
Server Expert Gruppen
Unternehmens IT
|
Kategorien online Artikel
- Big Data, Analytics, BI, MIS
- Cloud, Social Media, Devices
- DMS, Archivierung, Druck
- ERP + Add-ons, Business Software
- Hochverfügbarkeit
- Human Resources, Personal
- IBM Announcements
- IT-Karikaturen
- Leitartikel
- Load`n`go
- Messen, Veranstaltungen
- NEWSolutions Dossiers
- Programmierung
- Security
- Software Development + Change Mgmt.
- Solutions & Provider
- Speicher – Storage
- Strategische Berichte
- Systemmanagement
- Tools, Hot-Tips
Auf dem Laufenden bleiben
|
Bookmarks