1. Настройки RealURL должны быть в отдельном файле, а не в localconf.php.
2. В самом конце документации к RealURL приведены самые полные настройки для .htaccess
3. Хорошие настройки самого RealURL можно подсмотреть вот здесь -
http://wiki.typo3.org/index.php/Realurl/examples - последний вариант, на мой взгляд, должен подойти вполне.
И в EM в свойствах самого RealURL снимите галочку с автонастроек и пропишите правильный путь до файла с конфигурацией.