Versuch doch mal PAGWTH=8424 und PAGLEN=11952.
A4 ist 210 * 297 mm. Das entspricht 11952 * 16848.
A5 ist 148,5 * 210. Das ist dann 8424 * 11952.
Die Werte sind angegeben in 1/1440 inch. Durch das Umrechnen gibts evtl. geringfügige Abweichungen. Da mußt du evtl. etwas ausprobieren.
Siehe auch im Handbuch OS/400 Workstation Customization Programming unter Drawer Page Size.

Gruß
Bruno