Beim Aufruf bekommt das Programm ja einen Fehler und wird i.d.R. abgebrochen, da der Open scheitert.
Diese Nachricht per SYSRPYLE auf Abbruch stellen und den Job automatisch antworten lassen.
Im Menüprogramm mit Monitor den Aufruf überwachen und bei Abbruch die Meldung überprüfen und entsprechend hinweisen.

Alternativ würde ich eher folgendes machen.
Jeder Dialogjob hat ja ein Startprogramm über das die Umgebung eingerichtet wird.
Dieses ruft ein Mini-Progrämmchen auf, das eine DS4-Datei öffnet.
Dann kannst du dir in der *LDA oder sonstwo (SQL-Sessionvariable) eben merken, ob der Bildschirm das kann und vor dem Aufruf dem Benutzer den Hinweis geben oder den Menüpunkt gar nicht erst anbieten.
Denn ob du den Programmaufruf vorher prüfst, da du Programm und DSPF kennst, oder die Menüauswahl verbirgst/deaktivierst ist vom Aufwand ja vergleichbar.