Про настройку nginx очень хорошо написано в
http://wiki.nginx.org/Pitfalls , хотя, безусловно, есть нюансы специфичные для TYPO3 и реализаций nginx под разными OS.
Будет время - напишу краткое руководство наверное. В любом случае опыт будет полезен и будет место для уточнений и улучшений.