очень просто. Есть параметры для TMENU
NO
ACT
IFSUB
ACTIFSUB
вот здесь все очень подробно описано:
http://typo3.org/documentation/document-library/doc_core_tsref/Common_item_states_f/
Для твоего случая:
ACT - текущая страница в рутлайн-меню
ACTIFSUB - текущая страница в рутлайн-меню, если у нее есть подстраница
дальше - дело техники