Hola Mariano,
¿Has intentado utilizare este plugin? https://moodle.org/plugins/local_mailtest
Este plugin te guarda un log del funcionamiento del SMTP. Sino bien puede realizar una prueba con un lenguaje de programación con los datos del SMTP para ver como funciona desde la consola.
¿Tienes tu moodle montado en un host en linea?