持田＠NETside です。

>     May 27 21:31:07 sv03 kernel: VM: killing process sendmail

 Web でちょっと探した限りでは、overcommit で実メモリ + スワップの
枯渇が原因かと思います。それで、スワップを増やせば解決するかも
知れないですし、ここの以前の前田さんの記事

    http://search.luky.org/fol.2001/msg00337.html

にありますが、

| Linux 2.2以降では、/proc/sys/vm/overcommit_memory に1を書き込むと
| overcommit動作をするようになりますが、デフォルトではovercommitしません。

とあるように、/proc/sys/vm/overcommit_memory を 1 にしなければいいのかも
知れません。
＃ またデフォルト変わったんでしょうか?

> １つ１つのプロセスのリソースが溢れそうになるのを事前に察知
> する事はできるのでしょうか？

 overcommit の場合はそれは難しいです。

> radiusへのアクセスが多すぎて kill されてしまったのでしょうか？

 VM が「やばい」と判断した後にじたばたしたプロセスが（適切な
アルゴリズムによって選ばれて）kill されます。

 overcommit なしなら malloc() の時点でエラーになるので、
"VM: killing process" は出ないですよね?  >  詳しい方

-- 
持田 修司 NETside Technologies Inc.
          -- Equal Opportunity for All Good Architectures, NetBSD. --