Olá Clayton,
Acessa www.seudominio.com.br/admin/settings.php?section=enrolsettingsself
Você pode escolher o itenm na Autoinscrição:
1. Usar política de senha
enrol_self | usepasswordpolicy
- Utilizar política de senha para ter acesso ao curso.
Só habilita para que o acesso ao curso seja restrito apenas para quem possua a chave.
Você force isso aos usuário!