SQL - Wie bekomme ich die Genauigkeit hin?

[Lucky662]

Hi Andreas,
das != wird nur vom Greenscreen nicht akzeptiert, da müsste es ^= sein.
Aber ich glaube auch dass liegt am Zeichensatz.
LG Andreas

[Fuerchau]

!= wird im IBM i SQL inzwischen wie <> behandelt.
Float ist ein schechter Cast da dieser nur 7-stellig genau ist. Double wäre da besser, da es 15 Stellen kann.
Zusätzlich wäre dann noch ein round(...) empfehlenswert.

[Lucky662]

Danke für den Hinweis auf double. Für den round() mach ich das Ganze , da vorher die Ergebnisse auf 2 Stellen abgeschnitten wurden und somit bei 73.488 nur 73.48 anstatt 73.49 raus kam.

[Fuerchau]

Das Problem ist, dass für die Summenfelder ggf. das Maximum als Zwischenergebnis verwendet wird, also Dec(31, 2).
Bei Dec(31, 2) / Dec(31, 2) gibt es leider zu wenig Nachkommastellen.
Wenn man allerdings weiß, dass die Summe nicht größer als 15 Stellen haben wird, ist es besser diese zu casten, also dec(sum(....), 15, 2).
Dann klappt es auch mit der Division. Vorteil: Double ist im Nachkommabereich relativ ungenau.

Nachtrag zur Performance:

case when sum(MENGE) != 0
then sum(EK*MENGE)/sum(MENGE)
end as EKPR

ersetzen durch:
sum(EK*MENGE)/nullif(sum(MENGE), 0) as EKPR

[Lucky662]

Habe ich dann im EKPR, wenn die sum(Menge) = 0 ist, als Ergebnis 0 oder null?

[Fuerchau]

Da dein Case keinen Else hat ist da auch das Ergebnis NULL.
Wenn du im Ergebnis 0 brauchst, dann geht das wiederum so:

coalesce( sum(EK*MENGE) / nullif(sum(MENGE), 0), 0 ) as EKPR

[Lucky662]

Danke für die Hilfe!
Ich benötige null um diese Sätze gezielt auszuschließen von der Verarbeitung.
Mit deiner Antwort und dem Nachlesen in der SQL-Referenz, bin ich mir jetzt sicher.

[Fuerchau]

Nachlesen hilft immer;-).