Судя по распечатке процессов, наедается памятью менеджер агентов. Он может и тормозить сервер в свою очередь.
Происходить это может из-за множества причин, в том числе, агентов на Java, которые не освобождают за собой память, из-за большого числа неверно написанных агентов в приложениях, из-за зацикленных агентов и т.д.
Также это может происходить в больших базах при запуске агентов, в которых критерии выбора написаны на языке формул, но нет полнотекстового индекса в базе.
Можно привести еще ряд причин, из-за которых может происходить подобное. Попробуйте посмотреть, какие приложения работают на сервере, что сервер выводит на консоль.