<HTML><HEAD></HEAD>
<BODY dir=ltr>
<DIV dir=ltr>
<DIV style="FONT-FAMILY: 'Calibri'; COLOR: #000000; FONT-SIZE: 12pt">
<DIV>Hi guys!</DIV>
<DIV>I can’t find an answer in google, so my last hope is this mailing 
list.</DIV>
<DIV>&nbsp;</DIV>
<DIV>Story.</DIV>
<DIV>I have two servers with same arrays. Servers connected by DRBD.</DIV>
<DIV>I used ocfs2 as file system, also I used NFS4 to access to the </DIV>
<DIV>ocfs2 drive. I do not have any idea, but the allocated descriptors in</DIV>
<DIV>/proc/sys/fs/file-nr increasing every time while drive accessed.</DIV>
<DIV>So after some time allocated descriptions over max value and all</DIV>
<DIV>processes make error “To much opened files” (something like</DIV>
<DIV>this). I do not see any error messages in log files... Any idea?</DIV>
<DIV>I haven’t sleep two days <IMG 
style="BORDER-BOTTOM-STYLE: none; BORDER-LEFT-STYLE: none; BORDER-TOP-STYLE: none; BORDER-RIGHT-STYLE: none" 
class="wlEmoticon wlEmoticon-sadsmile" alt="Печальная рожица" 
src="cid:58094B92858442519F0B64AC1CCED919@VasylD"></DIV>
<DIV>&nbsp;</DIV>
<DIV>Thank you all in advance.</DIV>
<DIV>&nbsp;</DIV>
<DIV>Configs:</DIV>
<DIV><EM>cat /etc/drbd.conf</EM></DIV>
<DIV><EM># You can find an example in&nbsp; 
/usr/share/doc/drbd.../drbd.conf.example</EM></DIV>
<DIV><EM></EM>&nbsp;</DIV>
<DIV><EM>include "drbd.d/global_common.conf";</EM></DIV>
<DIV><EM>include "drbd.d/*.res";</EM></DIV>
<DIV><EM></EM>&nbsp;</DIV>
<DIV><EM></EM>&nbsp;</DIV>
<DIV><EM>resource nfs {</EM></DIV>
<DIV><EM></EM>&nbsp;</DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; protocol C;</EM></DIV>
<DIV><EM></EM>&nbsp;</DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; handlers {</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 
split-brain "/usr/lib/drbd/notify-split-brain.sh root";</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 
pri-on-incon-degr "echo o &gt; /proc/sysrq-trigger ; halt -f";</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 
pri-lost-after-sb "echo o &gt; /proc/sysrq-trigger ; halt -f";</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 
local-io-error "echo o &gt; /proc/sysrq-trigger ; halt -f";</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; }</EM></DIV>
<DIV><EM></EM>&nbsp;</DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; startup {</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 
become-primary-on both;</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 
degr-wfc-timeout 120;</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; }</EM></DIV>
<DIV><EM></EM>&nbsp;</DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; disk {</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 
on-io-error detach;</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; }</EM></DIV>
<DIV><EM></EM>&nbsp;</DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; net {</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 
cram-hmac-alg sha1;</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 
shared-secret "password";</EM></DIV>
<DIV>
<DIV><EM></EM></DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 
allow-two-primaries;</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 
after-sb-0pri discard-zero-changes;</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 
after-sb-1pri discard-secondary;</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 
after-sb-2pri disconnect;</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 
rr-conflict disconnect;</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; }</EM></DIV>
<DIV><EM></EM>&nbsp;</DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; syncer {</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 
rate 500M;</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 
verify-alg sha1;</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 
al-extents 257;</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; }</EM></DIV>
<DIV><EM></EM>&nbsp;</DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; on st01 {</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 
device&nbsp; /dev/drbd0;</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 
disk&nbsp;&nbsp;&nbsp; /dev/sdb;</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 
address 192.168.3.151:7788;</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 
meta-disk internal;</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; }</EM></DIV>
<DIV><EM></EM>&nbsp;</DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; on st02 {</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 
device&nbsp; /dev/drbd0;</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 
disk&nbsp;&nbsp;&nbsp; /dev/sdb;</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 
address 192.168.3.152:7788;</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 
meta-disk internal;</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; }</EM></DIV>
<DIV><EM>}</EM></DIV>
<DIV>&nbsp;</DIV>
<DIV>---</DIV>
<DIV><EM>cat /etc/ocfs2/cluster.conf</EM></DIV>
<DIV><EM>#/etc/ocfs2/cluster.conf</EM></DIV>
<DIV><EM>node:</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp; ip_port = 7777</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp; ip_address = 192.168.1.151</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp; number = 1</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp; name = st01</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp; cluster = ocfs2</EM></DIV>
<DIV><EM></EM>&nbsp;</DIV>
<DIV><EM>node:</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp; ip_port = 7777</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp; ip_address = 192.168.1.152</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp; number = 2</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp; name = st02</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp; cluster = ocfs2</EM></DIV>
<DIV><EM></EM>&nbsp;</DIV>
<DIV><EM>cluster:</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp; node_count = 2</EM></DIV>
<DIV><EM>&nbsp;&nbsp;&nbsp; name = ocfs2</EM></DIV>
<DIV><EM>---</EM></DIV>
<DIV><EM>cat /etc/exports</EM></DIV>
<DIV><EM># /etc/exports: the access control list for filesystems which may be 
exported</EM></DIV>
<DIV><EM>#&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 
to NFS clients.&nbsp; See exports(5).</EM></DIV>
<DIV><EM>/snfs&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 
192.168.1.0/24(rw,sync,no_root_squash,no_subtree_check,fsid=0)</EM></DIV>
<DIV><EM>/snfs/projects&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 
192.168.1.0/24(rw,sync,no_root_squash,no_subtree_check)</EM></DIV>
<DIV><EM>/snfs/configs&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 
192.168.1.0/24(rw,sync,no_root_squash,no_subtree_check)</EM></DIV>
<DIV><EM>/snfs/variables&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 
192.168.1.0/24(rw,sync,no_root_squash,no_subtree_check)</EM></DIV>
<DIV><EM>/snfs/backups&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 
192.168.1.0/24(rw,sync,no_root_squash,no_subtree_check)</EM></DIV>
<DIV>---</DIV></DIV></DIV></BODY></HTML>