Hola,
Sospecho que cuando empleas preguntas seleccionadas aleatoriamente, Moodle no sabe de antemano el valor de las puntuaciones para cada opción y por esto no acepta puntajes negativos para una respuesta a pregunta elegida aleatoriamente.
Yo creo que te convendría usar el método de Puntuación Basada en Certeza, que hace uso de juicios de confianza para calificar. Estos métodos tienen varias décadas de antiguedad. Estos han mostrado repetidamente que estimulan un pensamiento más cuidadoso y un mejor aprendizaje que la simple calificación de acertado/erróneo y que proporcionan una evaluación más confiable. Yo lo usé con exámenes formativos en la enseñanza de licenciatura y tuve resultados muy interesantes.
Otra alternativa interesante a considerar podría ser emplear el plugin opcional del tipo de pregunta de opción múltiple de todo o nada.