За несколько часов поисков и экспериментов узнал много интересного на тему collation в MySQL
:-)
http://drupal.htdogs.ru/node/111
http://bugs.typo3.org/view.php?id=1262
Рецепт того как добиться регистронезависимого поиска и сортировки с русскими буквами, когда в TYPO3 forcecharset utf-8 и MySQL 4.1
базу создаем в utf-8 ( collation utf8_general_ci при этом дефолтовая кодировка сервера может быть любая - у меня latin)
Пишем в localconf.php
$TYPO3_CONF_VARS['SYS']['setDBinit'] = 'SET NAMES utf8'.chr(10).'SET CHARACTER SET utf8';
Кстати, Битрикс не поддерживает utf-8 и это не планируется.