Hola de nuevo.
Pascal ya te ha indicado cómo acceder a la parte de configuración del correo, pero no entiendo bien lo que dices que has hecho la depuración y sigue igual.
Si has activado el modo depuración del correo, después tendrías que intentar hacer un registro de nuevo usuario (como antes dices que funcionaba) y en pantalla deberías ver una serie de mensajes "extraños" que serían la interacción entre Moodle y el servicio de correo tal como lo tenéis ahora. Si ves esos mensajes por pantalla y no puedes interpretar lo que dicen, puedes capturar una imagen y adjuntarla en otro mensaje para ver si alguien del foro te puede orientar en lo que sucede.
Saludos.