Der "fgrep" war jetzt eigentlich nicht so ganz ernst gemeint.
Aber wenn du suchen willst, dann stimmt es schon dass du nach dem Vorkommen von UTF8-Zeichen suchen musst.
Der "grep" ist da ggf. besser (laut WIKI) da er "reguläre Ausdrücke" verarbeiten kann.
Wie du nun UTF-8 erkennen willst, kannst du an Hand folgender Tabelle analysieren:
http://www.utf8-zeichentabelle.de/

Westeuropäische UTF-8-Zeichen beginnen i.W. mit x"C2" = Â und x"C3" Ã.
Kommen diese also vor, ist UTF-8 wahrscheinlich (aber nicht sicher wenn es normale Zeichen in ANSI 1252 wären).

Bzgl. des QNTC hast du das korrekt verstanden, wobei eben ein CPYTOSTMF auch geht.