[NEWSboard IBMi Forum]

Hybrid View

  1. #1
    Registriert seit
    Mar 2002
    Beiträge
    5.365
    Zitat Zitat von ILEMax Beitrag anzeigen
    @Baldur
    ich verweigere mich nicht
    Die 19 hat (im Orginal) sowieso 2 NK Stellen

    Interaktiv im STRSQL bringt

    select sum(1,25)/100,00*19,00 from uniqueDatei where uniqueKey in(1, 2) --> 2 Sätze

    das Ergebnis 0,00! Was ich noch weniger verstehe

    Im RPG haben wir uns angewöhnt mit eval(RH) zu arbeiten.
    Das übersetzen wir mit: 'Bitte rechne richtig'
    (oder mit einer Funktion, die das Runden, den Überlauf und die Fehlermeldung händelt)

    Wenn SQL das bei Dieter und Birgitta richtig macht, fehlt uns irgend etwas, oder ist schlecht eingestellt.
    Das wüsste ich gerne!
    ... Fehlermeldung => PTF
    AS400 Freeware
    http://www.bender-dv.de
    Mit embedded SQL in RPG auf Datenbanken von ADABAS bis XBASE zugreifen
    http://sourceforge.net/projects/appserver4rpg/

  2. #2
    Registriert seit
    Aug 2001
    Beiträge
    2.928
    Es passiert folgendes, da nichts gecastet wird, wird das Ergebnis der Summe mit als Dec(31, 2) ausgegeben. Da durch ein Integerwert dividiert wird, der ja keine Dezimal-Positionen hat, wird das Ergebnis der Division ebenfalls mit Dec(31, 2) ausgegeben und dann weitergerechnet. Allerdings ist das Ergebnis 2,5/100 = 0,025. Die 5 wird abgeschnitten (also 0,02) und dann mit 19 multipliziert ergibt ,038.

    Das andere kann ich nicht erklären.
    Warum das so ist ... wie Dieter sagt, bei der IBM nachfragen.

    Aber nachwie vor ist die Regel: Zuerst multiplizeren und dann dividieren!!!
    ... und auch die komplette Berechnung in sum() integrieren.
    Birgitta Hauser

    Anwendungsmodernisierung, Beratung, Schulungen, Programmierung im Bereich RPG, SQL und Datenbank
    IBM Champion seit 2020 - 5. Jahr in Folge
    Birgitta Hauser - Modernization - Education - Consulting on IBM i

Similar Threads

  1. Antworten: 0
    Letzter Beitrag: 09-02-10, 08:38
  2. Kleine Fesplatte mit grosse ersetzen
    By gugli in forum NEWSboard Server & Hardware Markt
    Antworten: 1
    Letzter Beitrag: 30-09-09, 20:30
  3. Antworten: 0
    Letzter Beitrag: 17-12-08, 08:56
  4. Löst die Spielkonsole die i5 ab???
    By Brownie in forum IBM i Hauptforum
    Antworten: 1
    Letzter Beitrag: 02-12-06, 09:02
  5. Zwei Felder zusammenfügen - Aber nur die Werte, nicht die Blanks
    By svente in forum NEWSboard Programmierung
    Antworten: 4
    Letzter Beitrag: 30-03-06, 11:45

Berechtigungen

  • Neue Themen erstellen: Nein
  • Themen beantworten: Nein
  • You may not post attachments
  • You may not edit your posts
  •