Initialisierst du auch einen Kontext ?
Create Algorithm Context (QC3CRTAX, Qc3CreateAlgorithmContext)

Und wie stellst du fest, dass der Hash "seltsam" ist ?
Das Ergebnis läßt sich ja nicht mit einem Hash auf Windows vergleichen.

Wo kommen deine Daten her?
Wie ist die CCSID deines Job's, der DB usw. ?