[elezeo]

В общем, как это у меня обычно бывает, не дождался ответа и разобрался сам.
Вот те настройки, которые необходимо вносить

$TYPO3_CONF_VARS['MAIL'] = array (
	'defaultMailFromAddress'=>'my@domain.com',
	'defaultMailFromName'=>'MySiteName',
	'substituteOldMailAPI'=>1,
	'transport'=>'sendmail', //mail, mbox, smtp
	'transport_mbox_file'=>'',
	'transport_sendmail_command'=>'/usr/local/sbin/sendmail -bs',
	'transport_smtp_encrypt'=>'',
	'transport_smtp_password'=>'',
	'transport_smtp_server'=>'localhost:25',
	'transport_smtp_username'=>''
);