Ich denke, es könnte mit der Auflösung zusammenhängen.
Aus irgendwelchen Gründen arbeitet die IBM häufig mit 240DPI.
Erstellst du ein Overlay oder PAGSEG für IBM's IPDS-Drucker musst du 240 DPI wählen, für Hosttransform musst du 300 DPI wählen.

Ggf. verwendet der PDF-Treiber hier auch 240 DPI, also wird die Grafik auf 240 DPI umgerechnet und dabei leider auch verkleinert.

Versuche mal eine Overlay über den AFP300/600-Treiber mit 240 DPI zu erstellen (kann man im Druckdialog angeben).