Там должен быть адрес сервера SMTP, смотрящего в интернет.
Если ваш сервер Домино смотрит в интернет напрямую, поле должно быть пустым.
Проверьте поле SMTP used when sending messages outside of the local internet domain. Должно быть Enabled.
Задача SMTP на сервере запущена?
В доке сервера правильно указано полное интернет имя (myserver.mydomain.my)?
Что в логах сервера при попытке отправить письмо наружу?
telnet yandex.ru (mail.ru) 25 с сервера проходит?