Когда БД занята, компакт в режиме копи-стайл не отрабатывает.
Это лучше делать при выключенном сервере через командную строку.
Либо можно попробовать запустить компакт при старте сервера, пока процессы не заняли базу. Если компакт пошел, то этот процесс должен отображаться в Server Tasks. Во время этого процесса на файловой системе рядом с компактируемой БД создается временная БД, которая наполняется из основной.
