Нужно сделать следующее:
1. Прописать внешний адрес сервера Domino в DNS для доставки писем домена на сервер.
Если есть маршрутизатор (сервер не доступен напрямую из внешней сети), то в DNS указать адрес маршрутизатора, а на самом маршрутизаторе настроить пересылку почты (25 порт) на сервер во внутренней сети.
2. На сервере Domino в Domino Directory создать документ Global Domain, в котором описать основные почтовые настройки
3. Включить задачу роутера (SMTP Listener Task - Enabled в серверном документе)
4. Задать конфигурацию почтовой системы в документе Configuration
Как-то так...