Hola.
La opción de que cualquier usuario puedes solicitar crear un nuevo curso, es algo que existe ya en Moodle pero hay que habilitarlo:
Lo de cobrar por los cursos es algo habitual, pero lo que ocurre es que hay muchas situaciones diferentes. Si te refieres al "pago directo", cuando un alumno quiere pagar por matricularse en un curso, Moodle trae incorporado el uso de Paypal, por ejemplo:
Espero que te sirva para seguir investigando. Saludos.