-
SQL kennt natürlich auch noch den Typ Decimal für die Arithmetik, da Float ja Fließkomma ist.
SQL versucht halt, bei Zwischenergebnissen so viele Nachkommastellen wie möglich zu verwenden, was bei Divisionen schon mal knapp werden kann. Das führt auch schon mal dazu, dass mit decimal(31, 29) gerechnet wird und in der Folge sogar zu Dezimalfeldüberlauf.
Wenn dann auch noch aggregiert wird, muss u.U. das maximum herausgeholt werden.
Aus sum(dec(11,2)) wird dann auch schon mal ein dec(31, 18).
Eine tatsächliche Regel daraus abzuleiten habe ich mir abgewöhnt und rechne nun z.T. mit Zwischenergebnissen, gerade um Integerarithmetik zu vermeiden.
select sum(1,25), dec( sum(1,25 / 100,00 ), 15, 4) * 19,00 from datei where uniquekey in(1, 2)
Wobei der Zwangscast ab und an auch leider ignoriert wird.
Similar Threads
-
By ibiuser in forum Archiv NEWSblibs
Antworten: 0
Letzter Beitrag: 09-02-10, 08:38
-
By gugli in forum NEWSboard Server & Hardware Markt
Antworten: 1
Letzter Beitrag: 30-09-09, 20:30
-
By creapower in forum Archiv NEWSblibs
Antworten: 0
Letzter Beitrag: 17-12-08, 08:56
-
By Brownie in forum IBM i Hauptforum
Antworten: 1
Letzter Beitrag: 02-12-06, 09:02
-
By svente in forum NEWSboard Programmierung
Antworten: 4
Letzter Beitrag: 30-03-06, 11:45
Berechtigungen
- Neue Themen erstellen: Nein
- Themen beantworten: Nein
- You may not post attachments
- You may not edit your posts
-
Foren-Regeln
|
Erweiterte Foren Suche
Google Foren Suche
Forum & Artikel Update eMail
AS/400 / IBM i
Server Expert Gruppen
Unternehmens IT
|
Kategorien online Artikel
- Big Data, Analytics, BI, MIS
- Cloud, Social Media, Devices
- DMS, Archivierung, Druck
- ERP + Add-ons, Business Software
- Hochverfügbarkeit
- Human Resources, Personal
- IBM Announcements
- IT-Karikaturen
- Leitartikel
- Load`n`go
- Messen, Veranstaltungen
- NEWSolutions Dossiers
- Programmierung
- Security
- Software Development + Change Mgmt.
- Solutions & Provider
- Speicher – Storage
- Strategische Berichte
- Systemmanagement
- Tools, Hot-Tips
Auf dem Laufenden bleiben
|
Bookmarks