-
 Zitat von ILEMax
@Baldur
ich verweigere mich nicht
Die 19 hat (im Orginal) sowieso 2 NK Stellen
Interaktiv im STRSQL bringt
select sum(1,25)/100,00*19,00 from uniqueDatei where uniqueKey in(1, 2) --> 2 Sätze
das Ergebnis 0,00! Was ich noch weniger verstehe
Im RPG haben wir uns angewöhnt mit eval(RH) zu arbeiten.
Das übersetzen wir mit: 'Bitte rechne richtig'
(oder mit einer Funktion, die das Runden, den Überlauf und die Fehlermeldung händelt)
Wenn SQL das bei Dieter und Birgitta richtig macht, fehlt uns irgend etwas, oder ist schlecht eingestellt.
Das wüsste ich gerne!
... Fehlermeldung => PTF
-
Es passiert folgendes, da nichts gecastet wird, wird das Ergebnis der Summe mit als Dec(31, 2) ausgegeben. Da durch ein Integerwert dividiert wird, der ja keine Dezimal-Positionen hat, wird das Ergebnis der Division ebenfalls mit Dec(31, 2) ausgegeben und dann weitergerechnet. Allerdings ist das Ergebnis 2,5/100 = 0,025. Die 5 wird abgeschnitten (also 0,02) und dann mit 19 multipliziert ergibt ,038.
Das andere kann ich nicht erklären.
Warum das so ist ... wie Dieter sagt, bei der IBM nachfragen.
Aber nachwie vor ist die Regel: Zuerst multiplizeren und dann dividieren!!!
... und auch die komplette Berechnung in sum() integrieren.
Similar Threads
-
By ibiuser in forum Archiv NEWSblibs
Antworten: 0
Letzter Beitrag: 09-02-10, 08:38
-
By gugli in forum NEWSboard Server & Hardware Markt
Antworten: 1
Letzter Beitrag: 30-09-09, 20:30
-
By creapower in forum Archiv NEWSblibs
Antworten: 0
Letzter Beitrag: 17-12-08, 08:56
-
By Brownie in forum IBM i Hauptforum
Antworten: 1
Letzter Beitrag: 02-12-06, 09:02
-
By svente in forum NEWSboard Programmierung
Antworten: 4
Letzter Beitrag: 30-03-06, 11:45
Berechtigungen
- Neue Themen erstellen: Nein
- Themen beantworten: Nein
- You may not post attachments
- You may not edit your posts
-
Foren-Regeln
|
Erweiterte Foren Suche
Google Foren Suche
Forum & Artikel Update eMail
AS/400 / IBM i
Server Expert Gruppen
Unternehmens IT
|
Kategorien online Artikel
- Big Data, Analytics, BI, MIS
- Cloud, Social Media, Devices
- DMS, Archivierung, Druck
- ERP + Add-ons, Business Software
- Hochverfügbarkeit
- Human Resources, Personal
- IBM Announcements
- IT-Karikaturen
- Leitartikel
- Load`n`go
- Messen, Veranstaltungen
- NEWSolutions Dossiers
- Programmierung
- Security
- Software Development + Change Mgmt.
- Solutions & Provider
- Speicher – Storage
- Strategische Berichte
- Systemmanagement
- Tools, Hot-Tips
Auf dem Laufenden bleiben
|
Bookmarks