Возможно у вас более новые версии TYPO3 и RealURL, либо обработчик 404 в pageNotFound_handling прописан свой (а не просто url для редиректа), и поэтому все отрабатыват правильно.
Но вот вам реальный пример неправильного поведения:
http://typo3.org/:/
http://typo3.org/http:/
Везде http ответы 200 и одинаковое содержание - главная страница.
А вот так -
http://typo3.org/http - ответ 404.