Вот этого пошагового руководства должно хватит для начала -
https://www.howtoforge.com/perfect-s...ot-ispconfig-3
Отдельно стоит заметить что не все шаги нужны: тот же же mailman, quota, дополнительные версии php - точно не нужны. Достаточно базовый функционал LAMP поставить + ISPConfig для удобства своего и все.