-
Zu bedenken ist einfach, dass DecFloat nur 16 oder 34 stellige Genauigkeit hat.
Somit wird die Potenz im Ergebnis immer ungenauer und ob das akzeptabel ist....
Aber Excel kann ja nur Double und das ist max. 17-Stellig * 10^+/-308.
Somit kannst du in ILERPG auch Float(8) nehmen, um mit Excel gleich zu ziehen.
Excel Potenz(35;50):
15973578394645000000000000000000000000000000000000 0000000000000000000000000000,00
Calc.exe (kann wohlDecFloat)
1,5973578394644968506635155063919e+77
Similar Threads
-
By svente in forum IBM i Hauptforum
Antworten: 5
Letzter Beitrag: 03-11-14, 12:46
-
By ibiuser in forum Archiv NEWSblibs
Antworten: 0
Letzter Beitrag: 10-11-09, 10:17
-
By holly in forum NEWSboard Programmierung
Antworten: 6
Letzter Beitrag: 16-05-06, 12:45
-
By Juergen in forum IBM i Hauptforum
Antworten: 4
Letzter Beitrag: 23-04-05, 13:05
-
By holly in forum IBM i Hauptforum
Antworten: 5
Letzter Beitrag: 31-01-03, 09:08
Berechtigungen
- Neue Themen erstellen: Nein
- Themen beantworten: Nein
- You may not post attachments
- You may not edit your posts
-
Foren-Regeln
|
Erweiterte Foren Suche
Google Foren Suche
Forum & Artikel Update eMail
AS/400 / IBM i
Server Expert Gruppen
Unternehmens IT
|
Kategorien online Artikel
- Big Data, Analytics, BI, MIS
- Cloud, Social Media, Devices
- DMS, Archivierung, Druck
- ERP + Add-ons, Business Software
- Hochverfügbarkeit
- Human Resources, Personal
- IBM Announcements
- IT-Karikaturen
- Leitartikel
- Load`n`go
- Messen, Veranstaltungen
- NEWSolutions Dossiers
- Programmierung
- Security
- Software Development + Change Mgmt.
- Solutions & Provider
- Speicher – Storage
- Strategische Berichte
- Systemmanagement
- Tools, Hot-Tips
Auf dem Laufenden bleiben
|
Bookmarks