Por eso mismo te recomendamos que habilites la depuración del sitio para que se pueda apreciar si el límite de enviós es lo que te puede afectar, si usas un smtp de gmail o de otro operador como yahoo o outlook debes revisar en sus sitios dicha información, no estoy muy al tanto, si utilizas autenticación SMTP propia de tu servidor debes consultar con los administradores si es que no existe límite de enviós, todos estos temas generalemente son tratados con los administradores del Hosting pero primero debes encontrar el origen del problema, si te dificulta un poco lo mas fácil que puede hacer para detectar el problema es enviar un mensaje desde algún curso de prueba que tengas en seguida ejecuta el cron de moodle manualmente ahi se pueden apreciar los errores de SMTP.
El php.ini es el archivo de configuración de Apache como no mencionas que servidor usas no puedo darte pistas al respecto, pero tampoco requieres gran ciencia para encontrarlo basta que pongas en google un búsqueda para encontrarlo o si usas linux se puede ejecutar el comando locate php.ini para ubicar la ruta del archivo, y efectivamente el time-out puede estar provocado por que los tiempos de ejecución están demasiados bajos y los cursos que sacas copias son demasiados grandes, corrigiendo los parámetros se soluciona.
Saludos!