субкурс не подходит
Ещё как подходит, этот модуль и используется как раз для вывода всех оценок всех студентов по всем курсам (субкурсам) в одном курсе (группа или специальность, тп)
как сделать так что бы отчет выводился за отдельную категорию
Добавить в условие WHERE id нужной категории:
WHERE gi.courseid = c.id AND gi.itemtype = 'course' AND cc.id = 12