Lo que si te puedo recomendar es que le pongas un sistema operativo Linux (Ubuntu o Debian), la mayoria de tutoriales para montar un server casero los encontras usando Linux.
Yo te recomiendo lo mismo... Pero si no queres tener dolores de cabeza instalalo en una máquina virtual.
El VirtualBox me ha funcionado de maravilla e incluso tiene unos add-ons que te permiten compartir carpetas con el windows que trabaja de host. Así podes utilizar tus herramientas favoritas de programación en windows y tenes los linux trabajando.
Actualmente con el VBox tengo dos maquinas virtuales, un Slackware que tiene el Apache con PHP y un RedHat que tiene un MySQL y un PostgreSQL, travesiando un poquito les podes poner una IP individual a cada uno y simular una pequeña LAN.
Lo bonito es que solo guardas el estado de la maquina virtual al salir y si tenes que hacer otra cosa de trabajo en windows no tenes que estar esperando para reiniciar.