Hola Gonzalo,
Me parece una idea acertada la de migrar a un servidor Linux. De hecho, en la documentación de Moodle para la instalación, se advierte que para producción, la recomendación es hacer la instalación en Linux.
En mi experiencia, Ubuntu Server 14.04 LTS ha sido y aún sigue siendo una opción estupenda. Imagino que ahora sería lógico escoger la versión 16.04 LTS (soporte prolongado - Long Time Support - unos 5 años de actualizaciones de seguridad).
Viene, por defecto con PHP, MySQL, Postgres, Apache, y un largo etcétera. Webmin, es un administrador web genial para servidores y, si necesitas servidores web virtuales está Virtualmin, que en su versión GPL cubre suficientemente todas las necesidades.
En cuanto a la migración, se deben migrar las carpetsa 'moodle', 'moodledata' y la Base de Datos.
Una vez migrados, habrá que editar el archivo 'config.php' contenido en la carpeta 'moodle' y configurar los datos correspondientes del nuevo servidor.
En principio, los datos de los usuarios deberían mantenerse intactos.
Por último, si no se modifica el dominio, no habrá problemas en cuanto a las rutas de los archivos de documentación e imágenes de los cursos. Por el contrario, si se va a modificar el dominio, habrá que utilizar la herramienta 'replace' según se comenta en este hilo: https://moodle.org/mod/forum/discuss.php?d=340225
En cuanto al 'max_execution_time', para mí, un tiempo de 600 segundos me viene resultando bueno para copias y demás.
Puede que 4GB de RAM sean un poco cortos, más usando Windows. Si en la misma máquina tienes el servidor de bases de datos, el servidor web, PHP yo subiría al menos a 16GB. El rendimiento mejorará notablemente con Linux. Y en caso te decidas por instalar Webmin o Virtualmin para administrarlo, ambos monitorizan constante y gráficamente el uso de RAM, SWAP, CPU y espacio en disco, lo que puede ser muy útil como indicativo de la demanda de hardware en un momento dado.
Por cierto, si vas a "subir" las carpetas por FTP, aunque comprimidas, utiliza siempre el modo BINARIO en vez de automático o ASCII. Te ahorrarás muchos quebraderos de cabeza.
Saludos y suerte.
JP