vaya Cristo a saber que versión Moodle utilizas... Hago opción a la magia y te consulto... En Métodos de matriculación, el que definiste para la automatriculacion... clavaste el "si" en "clave de matriculación de grupos de usuario"?
Descarto que tienes los grupos creados y cada uno con su clave
Descarto que les pasaste la clave de matriculación del método de matriculación o ¿se la pasaste?
Si hubo mucho lío... puede usar el plugin seleccion de grupos que anda fenomenal. Los alumnos se anotan en el grupo que les plazca y etc.
Saludos
Anibal Alvarez