Нет возможности стандартными средствами запретить общаться только выбранным ролям, потому что право moodle/site:sendmessage работает на уровне системы и для роли «Авторизованный пользователь», на которой базируются все остальные роли.
Поэтому по ссылке предлагают решение: у роли «Авторизованный пользователь» отозвать право moodle/site:sendmessage (таким образом вы запретите всем на сайте переписку), затем создать новую роль - копию роли «Авторизованный пользователь» с разрешенным правом moodle/site:sendmessage и назначить эту роль нужным пользователям на уровне системы. А уж кто это будет - преподаватели или ещё кто - решать вам.