Wenn man das unter Debug ausführt, gibt es ggf. weitere Hinweise im Joblog.
Welche Feldtypen gibst du aus der Tablefunction zurück?

Group by ist u.U. auch ein Problem. Hier könnte eine "derived Table" funktionieren:

select * from (
Your Select
) a
group by abc ...