В любом случае, под сервер нужна система по мощнее, если планируется использовать Domino Server 8.5.2 под Windows Server 2003 например, то отдайте под серверную платформу domino, 2-х ядерный проц и т.д. В любом случае, все запросы будет обрабатывать сервер и тут не обойтись без нормальной аппаратки. Так как в рекомендациях у IBM в минимальных требованиях, для памяти, выставлены параметры 512 Мб на ядро, то как раз у вас получается минимальная аппаратная платформа соответствующая требованиям IBM. Что касается баз данных, и работ с ними по клиентской части, то для пользователей, можно поставить клиента domino, например 7-го релиза, который не является сильно требовательным к железу и должен спокойно работать на одном ядре и 512 Мб. Хотя можно попробовать и 8.5.2 в качестве клиента, возможно будет все в норме. Для администрирования, ставьте 8.5.2 так будет спокойнее, в качестве дизайнера, тут зависит от пожелания разработчика.
Есть опыт, практически соответствующий вашей логической составляющей, domino server 8.5.1 в качестве платформы для работы с базами данных, дизайн для БД пишится на 6.5.4, в качестве клиентов у пользователей 6.5.4 в качестве административного клиента 8.5.1 соответственно, и все работает, дизайн обновляется, без проблем.