Division-Problem

[GS]

Hallo Zusammen,

bei einer Rechenoperation(Division) mit gleichen Feldinhalten bekomme ich unterschiedliche Ergebnisse.

1.Beispiel

Feld 1 Länge 30/10 Inhalt 01526,98
Feld 2 Länge 30/10 Inhalt 16612,45
Feld 3 Länge 15/04 Inhalt 0

Rechenoperation
EVAL FELD3 = FELD1/FELD2

FELD3 = 00000000.0000

2.Beispiel

Feld 1 Länge 29/10 Inhalt 01526,98
Feld 2 29/10 Inhalt 16612,45
Feld 3 15/04 Inhalt 0

Rechenoperation
EVAL FELD3 = FELD1/FELD2

FELD3 = 00000000.0100

Wieso hat eine Änderung der Anzahl-Vorkommastellen so eine
Auswirkung?


Danke

Gruss
GS

[KM]

Hallo GS,

die Ergebnisse können aber nicht ganz richtig sein. Bei mir kommt bei dieser Berechnung etwas völlig anderes raus. Außerdem würde ich bei Berechnungen mit EVAL immer den EVAL(R) benutzen bzw. EVAL(HR).

Gruß,
KM

[Fuerchau]

Bei so grossen Feldern das Ergebnis in ein kleines zu bringen gibt häufig Probleme.
Aber mit EVAL(HR) muss es klappen !

[GS]

Hallo GS,

die Ergebnisse können aber nicht ganz richtig sein. Bei mir kommt bei dieser Berechnung etwas völlig anderes raus. Außerdem würde ich bei Berechnungen mit EVAL immer den EVAL(R) benutzen bzw. EVAL(HR).

Gruß,
KM
Antwort:
Die Werte stimmen




c:\bild1.jpg
c:\bild2.jpg

[GS]

Hallo GS,

die Ergebnisse können aber nicht ganz richtig sein. Bei mir kommt bei dieser Berechnung etwas völlig anderes raus. Außerdem würde ich bei Berechnungen mit EVAL immer den EVAL(R) benutzen bzw. EVAL(HR).

Gruß,
KM

Bitte Anhang beachten(die Werte stimmen)

Gruss
GS

[KM]

Hallo GS,

ich hab jetzt mal Deinen Code abgetippt und bei mir laufen lassen. Ich erhalte bei beiden Versionen als Ergebnis

FELD3 = 00000000000.0919

Was ja auch richtig ist. Evtl. liegt es daran, dass wir V5R3 installiert haben. Welches Release hast habt Ihr denn ?

Gruß,
KM

[GS]

Hallo GS,

ich hab jetzt mal Deinen Code abgetippt und bei mir laufen lassen. Ich erhalte bei beiden Versionen als Ergebnis

FELD3 = 00000000000.0919

Was ja auch richtig ist. Evtl. liegt es daran, dass wir V5R3 installiert haben. Welches Release hast habt Ihr denn ?

Gruß,
KM

Danke für die Antwort
Wir haben V5R2.
Vielleicht liegt es wirklich am Release.