DDE ist für Massendaten dieser Art auch eher nicht geeignet.
Das Problem hierbei ist, dass die Resourcen, die durch DDE (interner Speicher) belegt werden, auch wieder freigegeben werden müssen. Passiert das (wie in deinem Fall) nicht, kommt es halt zum Resourcenengpass.
Lass die lieber eine andere Kommunikation (z.B. Ausgabe in CSV-Datei und Einlesen über Excel) einfallen. Oder löse das Ganze gleich mit einem Excel-VBA-Makro.

Sowohl VARPG als auch DDE sind da eher nicht auf dem neuesten Stand der Technik.

Kann VARPG vielleicht mit ActiveX (CreateObjekt) umgehen ?