Rechenproblem im/mit ILE

[B.Hauser]

Hallo,

die Angabe des Schlüssel-Wortes ExprOpts(*ResDecPos) (Zwischenergebnisse haben nie weniger Dezimal-Stellen als das Endergebnis) in den H-Bestimmungen beseitigt diese Probleme.

H ExprOpts(*ResDecPos) 

Birgitta

[BenderD]

... und schafft neue, andere.
Kalkulierbares Verhalten erreicht man am einfachsten dadurch, dass man Einzelschritte mit Variablen verwendet, dann kann man klar zum Ausdruck bringen wo man die Rechengenauigkeit braucht.

D*B

Hallo,

die Angabe des Schlüssel-Wortes ExprOpts(*ResDecPos) (Zwischenergebnisse haben nie weniger Dezimal-Stellen als das Endergebnis) in den H-Bestimmungen beseitigt diese Probleme.

H ExprOpts(*ResDecPos) 

Birgitta

[Fuerchau]

Oder beim Rechnen mit konstanten die Nachkomma eben mit angibt:

Test = ((49,0 / 7,0) / (12,0 / 6,0))