https://klarasystems.com/articles/exploring-swap-on-freebsd/ Есть утилита protect, которая выставит флаги для процесса предотвращающие его убийство OOM-ом. А в rc.conf можно выставить ${name}_oomprotect для запуска демона с этой настройкой.