Вообще говоря мне в такой же примерно ситуации помогло включение
Код:
$TYPO3_CONF_VARS['SYS']['setDBinit'] = 'SET NAMES utf8; SET character_set_connection = utf8;';
в localconf.php еще
до установки, а не в процессе ее.
Ну и, если это возможно, включить все в самой базе в utf-8 и, само собой разумеется, force-charset в localconf.php и render-charset в TS тоже прописать в utf-8.