-
Double-Werte werden als 64-Bit intern zur 2er-Potenz gespeichert.
Ein Dezimalwert wird also umgerechnet !
Der Bereich ist dann eben
+/- 0 - 0,5 * 2 ^ X
Alle ganzen Zahlen lassen sich glatt in 2er-Potenz darstellen (als BIN-Wert).
Nachkommastellen sind allerdings fast immer Näherungswerte, da auch diese in 2er-Potenzen berechnet werden:
0,5 = 1/2
0,25 = 1/4
0,125 = 1/8
Nun ergibt sich also dass 0,2 dezimal nicht genau bei Double darstellbar ist !
0,2 = 1/8 + 1/16 + 1/128 + 1/256 + 1/2048 + 1/4096 + .....
Die gesamte Genauigkeit ist dann ca. 17 Stellen * 10^300
Daher gibt es den Feldtyp CURRENCY, bzw. für Access als Typ: Zahl Dezimal !
Da gibt es max. 18 Ziffern genau, und daher mit größeren AS/400-Dezimalfeldern z.B. dec(30,5) nicht verwendbar.
Similar Threads
-
By mican in forum IBM i Hauptforum
Antworten: 10
Letzter Beitrag: 18-01-07, 08:07
-
By Nergal in forum NEWSboard Drucker
Antworten: 3
Letzter Beitrag: 05-01-07, 17:11
-
By gerhardbreit in forum IBM i Hauptforum
Antworten: 0
Letzter Beitrag: 12-06-06, 08:23
-
By Burgsmüller in forum NEWSboard Linux
Antworten: 0
Letzter Beitrag: 29-06-05, 07:53
-
By CaddyMajor in forum IBM i Hauptforum
Antworten: 1
Letzter Beitrag: 02-05-05, 10:45
Berechtigungen
- Neue Themen erstellen: Nein
- Themen beantworten: Nein
- You may not post attachments
- You may not edit your posts
-
Foren-Regeln
|
Erweiterte Foren Suche
Google Foren Suche
Forum & Artikel Update eMail
AS/400 / IBM i
Server Expert Gruppen
Unternehmens IT
|
Kategorien online Artikel
- Big Data, Analytics, BI, MIS
- Cloud, Social Media, Devices
- DMS, Archivierung, Druck
- ERP + Add-ons, Business Software
- Hochverfügbarkeit
- Human Resources, Personal
- IBM Announcements
- IT-Karikaturen
- Leitartikel
- Load`n`go
- Messen, Veranstaltungen
- NEWSolutions Dossiers
- Programmierung
- Security
- Software Development + Change Mgmt.
- Solutions & Provider
- Speicher – Storage
- Strategische Berichte
- Systemmanagement
- Tools, Hot-Tips
Auf dem Laufenden bleiben
|
Bookmarks