Hola Oscar.
Tu mensaje me resulta algo confuso y no estoy seguro de entenderte bien, pero por supuesto que Moodle tiene sistemas para impedir que en un curso se apunte nadie por su cuenta. Lo que ocurre es que hay varios aspectos de la configuración que tienen que ver con eso, y según tus necesidades concretas, podrás hacerlo de una forma u otra.
- ¿Seguro que quieres que tus alumnos se den de alta por su cuenta? En ese caso, cualquiera que llegue a tu moodle también se podrá dar de alta como usuario, aunque eso no quiere decir que se vaya a poder matricular en el curso que quiera. Otra posibilidad es que deshabilites la opción de "autenticación basada en Email", con lo que tendrías el trabajo de dar de alta a los alumnos manualmente y el primer día de clase les tendrías que repartir el nombre de usuario y contraseña asignados por tí, pero te evitaría los usuarios "espontáneos" ...
- En cualquiera de los dos casos anteriores, fíjate que en la configuración de cualquier curso hay un apartado llamado "clave de acceso", y otro apartado "acceso de invitados".
- Pues bien, si pones cualquier cosa como "Clave de acceso", nadie podrá apuntarse por su cuenta al curso si no conoce esa clave ... ni siquiera tienes que decírsela a los alumnos, si tu mismo u otro profesor se encarga de inscribirlos como alumnos del curso (cuando ya sean usuarios de tu moodle), la clave te sirve como barrera más que nada. No confundir con la contraseña "personal" de los usuarios, que es cosa bien distinta.
- El apartado "acceso de invitados" tendrás que deshabilitarlo, si no quieres que entren a tu curso personas que no sean alumnos registrados.
Espero que con esto consigas hacer lo que necesitas.
Saludos.