Сейчас стало совершенно ясно, что проблема есть
Т.е. использование
$TYPO3_CONF_VARS["BE"]["forceCharset"] = 'windows-1251';
приводит к проблемам при поиске в BE и при сортировке в BE.
Похожие симптомы описаны здесь:
http://phpclub.ru/faq/wakka.php?wakka=MysqlCharset
НО: на MySQL 4.1 и TYPO3 4.0 изменение кодировки базы (с latin на cp1251) и таблицы не приводит к результату.
Скоро перезагрузят сервер - посмотрю каков результат для MySQL 4.x и 3.8.1
Замечу, что с utf-8 этой проблемы нет.
(но сайтов с forceCharset windows-1251 доволно много... все их переводить на utf-8 - это это большая работа... хочется найти решение
)