Hola Ricardo
Ese comportamiento que observas es el normal de Moodle, donde por defecto lo menos que puede valer una pregunta es 0, nunca un valor negativo (cosas de los aglosajones)... Si quieres que se comporte de forma que los errores descuenten, tendrás que modificar el código
http://moodle.org/mod/forum/discuss.php?d=143696#p627594
Salu2