Где прописываются настройки:
 

HTTP_HOST
TYPO3_HOST_ONLY
TYPO3_REQUEST_HOST
?

Это не настройки, это параметры запроса.

Я настраиваю FE редактирование. Локально все работает, а на сервере при нажатии на карандашик во fe подставляет вместо
www.vspu.ru/is
значение ip адреса.
В Install Tool посмотрела эти параметры (указанные в 1 сообщении) имеют значение ip адреса.

Где они прописываются? Это апач делает подмену адреса на сервере при редактировании? Как поправить?

покажите настройки вашего хоста в Апаче, может что-то понятней станет.

Я не знаю как до них добраться (простите за профанство), может подскажите как?