<html xmlns:v="urn:schemas-microsoft-com:vml" xmlns:o="urn:schemas-microsoft-com:office:office" xmlns:w="urn:schemas-microsoft-com:office:word" xmlns:m="http://schemas.microsoft.com/office/2004/12/omml" xmlns="http://www.w3.org/TR/REC-html40">
<head>
<meta http-equiv="Content-Type" content="text/html; charset=us-ascii">
<meta name="Generator" content="Microsoft Word 12 (filtered medium)">
<style>
<!--
 /* Font Definitions */
 @font-face
        {font-family:SimSun;
        panose-1:2 1 6 0 3 1 1 1 1 1;}
@font-face
        {font-family:"Cambria Math";
        panose-1:2 4 5 3 5 4 6 3 2 4;}
@font-face
        {font-family:Calibri;
        panose-1:2 15 5 2 2 2 4 3 2 4;}
@font-face
        {font-family:Tahoma;
        panose-1:2 11 6 4 3 5 4 4 2 4;}
@font-face
        {font-family:Consolas;
        panose-1:2 11 6 9 2 2 4 3 2 4;}
@font-face
        {font-family:"\@SimSun";
        panose-1:2 1 6 0 3 1 1 1 1 1;}
 /* Style Definitions */
 p.MsoNormal, li.MsoNormal, div.MsoNormal
        {margin:0in;
        margin-bottom:.0001pt;
        font-size:12.0pt;
        font-family:"Times New Roman","serif";
        color:black;}
a:link, span.MsoHyperlink
        {mso-style-priority:99;
        color:blue;
        text-decoration:underline;}
a:visited, span.MsoHyperlinkFollowed
        {mso-style-priority:99;
        color:purple;
        text-decoration:underline;}
pre
        {mso-style-priority:99;
        mso-style-link:"HTML Preformatted Char";
        margin:0in;
        margin-bottom:.0001pt;
        font-size:10.0pt;
        font-family:"Courier New";
        color:black;}
span.HTMLPreformattedChar
        {mso-style-name:"HTML Preformatted Char";
        mso-style-priority:99;
        mso-style-link:"HTML Preformatted";
        font-family:Consolas;
        color:black;}
span.EmailStyle19
        {mso-style-type:personal-reply;
        font-family:"Calibri","sans-serif";
        color:#1F497D;}
.MsoChpDefault
        {mso-style-type:export-only;
        font-size:10.0pt;}
@page Section1
        {size:8.5in 11.0in;
        margin:1.0in 1.0in 1.0in 1.0in;}
div.Section1
        {page:Section1;}
-->
</style><!--[if gte mso 9]><xml>
 <o:shapedefaults v:ext="edit" spidmax="1026" />
</xml><![endif]--><!--[if gte mso 9]><xml>
 <o:shapelayout v:ext="edit">
  <o:idmap v:ext="edit" data="1" />
 </o:shapelayout></xml><![endif]-->
</head>
<body bgcolor="white" lang="EN-US" link="blue" vlink="purple">
<div class="Section1">
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;
color:#1F497D">Hi, Tina,<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;
color:#1F497D">&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; I implement RDS as our MPI&#8217;s interconnect, it works fine when I run IMB benchmark two ranks over two nodes.<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;
color:#1F497D">However, if I run 3 ranks over three nodes, it runs for a while and then silently crashes one of the machine, it is a repeatable crash of the same node.<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;
color:#1F497D"><o:p>&nbsp;</o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;
color:#1F497D">&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; When I go to /var/log/messages after the node reboot, I don&#8217;t find any useful info from RDS. The only RDS message<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;
color:#1F497D">Between the last two &#8216;restart&#8217; are:<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;
color:#1F497D">&#8230;..<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;
color:#1F497D">Apr 4 07:43:05 sq0n32 kernel: Registered RDS/iwarp transport<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;
color:#1F497D">Apr 4 07:43:05 sq0n32 kernel: Registered RDS/infiniband transport<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;
color:#1F497D">Apr 4 07:43:05 sq0n32 kernel: Registered RDS/tcp transport<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;
color:#1F497D">&#8230;..<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;
color:#1F497D">Apr 4 07:56:14 sq0n32 kernel: RDS/IB: connected to 172.31.64.33 version 3.1<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;
color:#1F497D">Apr 4 07:56:14 sq0n32 kernel: RDS/IB: connected to 172.31.80.240 version 3.1<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;
color:#1F497D">&#8230;..<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;
color:#1F497D"><o:p>&nbsp;</o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;
color:#1F497D">&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; When the crash occurs, the other two ranks just send a message to this rank on the crashed node, asking it to<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;
color:#1F497D">Send a RDS_CMSG_RDMA_MAP message back, the message size is 32K. But I don&#8217;t know what this crashed rank is doing.<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;
color:#1F497D">I always use RDS_CMSG_RDMA_MAP control message with RDS_RDMA_USE_ONCE flag, and doing rdma write.<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;
color:#1F497D"><o:p>&nbsp;</o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;
color:#1F497D">&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; Can you tell how to turn on RDS verbose mode so that I can get more message from /var/log/messages to figure<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;
color:#1F497D">Out what&#8217;s wrong ?<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;
color:#1F497D"><o:p>&nbsp;</o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;
color:#1F497D">&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; I am using OFED 1.5.1 on 2.6.18-128 kernel.<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;
color:#1F497D"><o:p>&nbsp;</o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;
color:#1F497D">Thanks<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;
color:#1F497D">--CQ<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;
color:#1F497D"><o:p>&nbsp;</o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;
color:#1F497D"><o:p>&nbsp;</o:p></span></p>
<div>
<div style="border:none;border-top:solid #B5C4DF 1.0pt;padding:3.0pt 0in 0in 0in">
<p class="MsoNormal"><b><span style="font-size:10.0pt;font-family:&quot;Tahoma&quot;,&quot;sans-serif&quot;;
color:windowtext">From:</span></b><span style="font-size:10.0pt;font-family:
&quot;Tahoma&quot;,&quot;sans-serif&quot;;color:windowtext"> Tina Yang [mailto:tina.yang@oracle.com]
<br>
<b>Sent:</b> Friday, April 02, 2010 5:02 PM<br>
<b>To:</b> Andy Grover<br>
<b>Cc:</b> Tang, Changqing; RDS Devel<br>
<b>Subject:</b> Re: [rds-devel] FW: RDS -- how to detect peer is gone ?<o:p></o:p></span></p>
</div>
</div>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
<p class="MsoNormal">Andy Grover wrote: <o:p></o:p></p>
<pre>I went ahead and opened bug 2006 with this analysis.<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre><a href="https://bugs.openfabrics.org/show_bug.cgi?id=2006">https://bugs.openfabrics.org/show_bug.cgi?id=2006</a><o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>Thanks! -- Regards -- Andy<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>Tang, Changqing wrote:<o:p></o:p></pre>
<pre>&nbsp; <o:p></o:p></pre>
<blockquote style="margin-top:5.0pt;margin-bottom:5.0pt">
<pre>Andy, Thank you, I will try to open a bug and provide a patch if I<o:p></o:p></pre>
<pre>could.<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>After reading the rds_recvmsg() function in recv.c (RDS source code),<o:p></o:p></pre>
<pre>I find the msg.msg_controllen processing does not follow the Linux<o:p></o:p></pre>
<pre>recvmsg() man page.<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>The Linux recvmsg() man page says that, upon return from recvmsg,<o:p></o:p></pre>
<pre>msg.msg_controllen should contain the length of control message<o:p></o:p></pre>
<pre>sequence. So if there is no control message, msg_controllen should be<o:p></o:p></pre>
<pre>set to zero.<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>However, from the rds_recvmsg() code, if we receive rdma notification<o:p></o:p></pre>
<pre>control message, put_cmsg() is used on 'msghdr', in turn, put_cmsg()<o:p></o:p></pre>
<pre>just advance msg_control to next control message space, and<o:p></o:p></pre>
<pre>msg_controllen is decreased to the size of available space.<o:p></o:p></pre>
<pre>Eventually msg_controllen will be zero (if input length is multiple<o:p></o:p></pre>
<pre>of control message length). The same thing for receiving<o:p></o:p></pre>
<pre>RDS_CMSG_RDMA_DEST control message.<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>Also if there is no rdma notification control message, or other<o:p></o:p></pre>
<pre>control message, msg_controllen is not touched by RDS code.<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>In another words, upon return from recvmsg(), msg_controllen is not<o:p></o:p></pre>
<pre>the buffer length RDS code filled in.<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>&nbsp;&nbsp;&nbsp; <o:p></o:p></pre>
</blockquote>
<p class="MsoNormal"><br>
<br>
&nbsp;&nbsp;&nbsp; You seem to overlook the fact that the 'msghdr' rds_recvmsg() (and others like<br>
&nbsp;&nbsp;&nbsp; put_cmsg()) are manipulating is actually a kernel copy of the user-passed structure.<br>
&nbsp;&nbsp;&nbsp; To see what's returned after recvmsg(), you should go to sys_recvmsg() below,<br>
&nbsp;&nbsp; <br>
&nbsp;&nbsp; 1955&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; if (MSG_CMSG_COMPAT &amp; flags)<br>
&nbsp;&nbsp; 1956&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; err = __put_user((unsigned long)msg_sys.msg_control-cmsg_ptr,<br>
&nbsp;&nbsp; 1957&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; &amp;msg_compat-&gt;msg_controllen);<br>
&nbsp;&nbsp; 1958&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; else<br>
&nbsp;&nbsp; 1959&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; err = __put_user((unsigned long)msg_sys.msg_control-cmsg_ptr,<br>
&nbsp;&nbsp; 1960&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; &amp;msg-&gt;msg_controllen);<br>
<br>
&nbsp;&nbsp;&nbsp; Here, you see the msg_controllen is indeed set to whatever it says it would in the
<br>
&nbsp;&nbsp;&nbsp; linux recvmsg() man page.<br>
&nbsp;&nbsp;&nbsp; <br>
<br>
<br>
<o:p></o:p></p>
<blockquote style="margin-top:5.0pt;margin-bottom:5.0pt">
<pre>Thanks for your comment.<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>--CQ<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>-----Original Message----- From: Andy Grover<o:p></o:p></pre>
<pre>[<a href="mailto:andy.grover@oracle.com">mailto:andy.grover@oracle.com</a>] Sent: Wednesday, March 31, 2010 6:43<o:p></o:p></pre>
<pre>PM To: Tang, Changqing Cc: RDS Devel Subject: Re: [rds-devel] FW: RDS<o:p></o:p></pre>
<pre>-- how to detect peer is gone ?<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>Tang, Changqing wrote:<o:p></o:p></pre>
<pre>&nbsp;&nbsp;&nbsp; <o:p></o:p></pre>
<blockquote style="margin-top:5.0pt;margin-bottom:5.0pt">
<pre>We strongly ask the ability to run both 32bit and 64bit RDS code on<o:p></o:p></pre>
<pre>64bit kernel.<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>--CQ<o:p></o:p></pre>
<pre>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; <o:p></o:p></pre>
</blockquote>
<pre>Please open a bug at bugs.openfabrics.org.<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>This is more likely to get fixed faster if you also attach a patch.<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>Thanks -- Regards -- Andy<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>&nbsp;&nbsp;&nbsp; <o:p></o:p></pre>
<blockquote style="margin-top:5.0pt;margin-bottom:5.0pt">
<pre>-----Original Message----- From: Andy Grover<o:p></o:p></pre>
<pre>[<a href="mailto:andy.grover@oracle.com">mailto:andy.grover@oracle.com</a>] Sent: Wednesday, March 31, 2010<o:p></o:p></pre>
<pre>4:40 PM To: Tang, Changqing Cc: RDS Devel Subject: Re: [rds-devel]<o:p></o:p></pre>
<pre>FW: RDS -- how to detect peer is gone ?<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>Tang, Changqing wrote:<o:p></o:p></pre>
<pre>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; <o:p></o:p></pre>
<blockquote style="margin-top:5.0pt;margin-bottom:5.0pt">
<pre>Why not ? even IB verbs support both 32bit and 64bit apps.<o:p></o:p></pre>
<pre>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; <o:p></o:p></pre>
</blockquote>
<pre>We support 32bit apps on a 32bit kernel and 64bit apps on a 64bit <o:p></o:p></pre>
<pre>kernel. You are talking about some kind of 32bit userspace on a<o:p></o:p></pre>
<pre>64bit kernel. Nobody does that.<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>-- Andy<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; <o:p></o:p></pre>
<blockquote style="margin-top:5.0pt;margin-bottom:5.0pt">
<pre>--CQ<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>-----Original Message----- From: Andy Grover<o:p></o:p></pre>
<pre>[<a href="mailto:andy.grover@oracle.com">mailto:andy.grover@oracle.com</a>] Sent: Wednesday, March 31, 2010<o:p></o:p></pre>
<pre>1:33 PM To: Tang, Changqing Cc: RDS Devel Subject: Re:<o:p></o:p></pre>
<pre>[rds-devel] FW: RDS -- how to detect peer is gone ?<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>Tang, Changqing wrote:<o:p></o:p></pre>
<pre>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; <o:p></o:p></pre>
<blockquote style="margin-top:5.0pt;margin-bottom:5.0pt">
<pre>Andy, Thank you for your confirmation, when do you have a fix<o:p></o:p></pre>
<pre>for this 32bit RDS problem on x86_64 system ?<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>--CQ<o:p></o:p></pre>
<pre>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; <o:p></o:p></pre>
</blockquote>
<pre>Running 32 bit apps on 64bit kernel is not supported.<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>-- Andy<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; <o:p></o:p></pre>
<blockquote style="margin-top:5.0pt;margin-bottom:5.0pt">
<pre>-----Original Message----- From: Andy Grover<o:p></o:p></pre>
<pre>[<a href="mailto:andy.grover@oracle.com">mailto:andy.grover@oracle.com</a>] Sent: Tuesday, March 30, 2010<o:p></o:p></pre>
<pre>8:00 PM To: Tang, Changqing Cc: RDS Devel Subject: Re:<o:p></o:p></pre>
<pre>[rds-devel] FW: RDS -- how to detect peer is gone ?<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>Tang, Changqing wrote:<o:p></o:p></pre>
<pre>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; <o:p></o:p></pre>
<blockquote style="margin-top:5.0pt;margin-bottom:5.0pt">
<pre>Andy, I looked 'man cmsg', 'struct rds_get_mr_args' is always<o:p></o:p></pre>
<pre>32 bytes.&nbsp; Here is my test code:<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>#include &lt;stdio.h&gt; #include &lt;stdlib.h&gt; #include<o:p></o:p></pre>
<pre>&lt;sys/socket.h&gt;<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>int main ()<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>{ struct cmsghdr *cmsg; char&nbsp;&nbsp;&nbsp; cmsgbuf[CMSG_SPACE(32)];&nbsp; /*<o:p></o:p></pre>
<pre>using struct rds_get_mr_args size */<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>cmsg = (struct cmsghdr *)cmsgbuf;<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>cmsg-&gt;cmsg_len = CMSG_SPACE(32); cmsg-&gt;cmsg_type = 0; <o:p></o:p></pre>
<pre>cmsg-&gt;cmsg_level = 1;<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>fprintf(stderr, &quot;offset %d\n&quot;,<o:p></o:p></pre>
<pre>(char*)CMSG_DATA(cmsg)-(char*)cmsg); }<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>The offset for 64bit is 16 and for 32bit is 12.<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>So if my code is 32bit, I put 'struct rds_get_mr_args' on 12<o:p></o:p></pre>
<pre>bytes offset, but RDS kernel code will get it from 16 bytes<o:p></o:p></pre>
<pre>offset.<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>Am I wrong ?&nbsp; Thank you again.<o:p></o:p></pre>
<pre>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; <o:p></o:p></pre>
</blockquote>
<pre>Hi CQ,<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>First, please always CC rds-devel so this discussion may be<o:p></o:p></pre>
<pre>archived, and maybe help someone else in the future.<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>Regarding your question -- I think you're correct that 32bit<o:p></o:p></pre>
<pre>userland will not work with 64bit kernel.<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>Regards -- Andy<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; <o:p></o:p></pre>
<blockquote style="margin-top:5.0pt;margin-bottom:5.0pt">
<pre>--CQ<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>-----Original Message----- From: Andy Grover <o:p></o:p></pre>
<pre>[<a href="mailto:andy.grover@oracle.com">mailto:andy.grover@oracle.com</a>] Sent: Tuesday, March 30, 2010<o:p></o:p></pre>
<pre>1:41 PM To: Tang, Changqing; RDS Devel Subject: Re:<o:p></o:p></pre>
<pre>[rds-devel] FW: RDS -- how to detect peer is gone ?<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>Tang, Changqing wrote:<o:p></o:p></pre>
<pre>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; <o:p></o:p></pre>
<blockquote style="margin-top:5.0pt;margin-bottom:5.0pt">
<pre>Andy, One simple question, does 32bit rds-rdma code work on<o:p></o:p></pre>
<pre>x86_64 machine ? I noticed that the size of 'struct<o:p></o:p></pre>
<pre>cmsghdr' is different between 32bit and 64bit, If the<o:p></o:p></pre>
<pre>kernel code is always 64bit, how does the RDS kernel code<o:p></o:p></pre>
<pre>figure out The control message buffer is passed as 32bit<o:p></o:p></pre>
<pre>format?<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>Do I miss something here ?<o:p></o:p></pre>
<pre>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; <o:p></o:p></pre>
</blockquote>
<pre>See &quot;man cmsg&quot;, it describes the various macros that resolve<o:p></o:p></pre>
<pre>32/64 differences.<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>Regards -- Andy<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; <o:p></o:p></pre>
<blockquote style="margin-top:5.0pt;margin-bottom:5.0pt">
<pre>Thank you. --CQ<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>-----Original Message----- From: Andy Grover <o:p></o:p></pre>
<pre>[<a href="mailto:andy.grover@oracle.com">mailto:andy.grover@oracle.com</a>] Sent: Tuesday, March 16,<o:p></o:p></pre>
<pre>2010 5:44 PM To: Tang, Changqing Cc:<o:p></o:p></pre>
<pre><a href="mailto:rds-devel@oss.oracle.com">rds-devel@oss.oracle.com</a> Subject: Re: [rds-devel] FW: RDS<o:p></o:p></pre>
<pre>-- how to detect peer is gone ?<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>Tang, Changqing wrote:<o:p></o:p></pre>
<pre>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; <o:p></o:p></pre>
<blockquote style="margin-top:5.0pt;margin-bottom:5.0pt">
<blockquote style="margin-top:5.0pt;margin-bottom:5.0pt">
<pre>[CQ] yes, the node is up and the process may corrupted.<o:p></o:p></pre>
<pre>If you can extend the rds ping message a little bit to<o:p></o:p></pre>
<pre>process as optional, that would be wonderful.<o:p></o:p></pre>
<pre>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; <o:p></o:p></pre>
</blockquote>
<pre>I don't see why rds's ping functionality as-is is<o:p></o:p></pre>
<pre>insufficient for what you want to do.<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>[CQ] What do you mean ? how can I use rds ping function<o:p></o:p></pre>
<pre>as-is to identify process down ?<o:p></o:p></pre>
<pre>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; &nbsp;&nbsp;&nbsp;<o:p></o:p></pre>
</blockquote>
<pre>Like I said, if the process doesn't respond but the rds<o:p></o:p></pre>
<pre>ping does, then you know the machine is alive but the<o:p></o:p></pre>
<pre>process is not.<o:p></o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>-- Andy<o:p></o:p></pre>
<pre>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; <o:p></o:p></pre>
</blockquote>
</blockquote>
</blockquote>
</blockquote>
</blockquote>
</blockquote>
<pre><o:p>&nbsp;</o:p></pre>
<pre><o:p>&nbsp;</o:p></pre>
<pre>_______________________________________________<o:p></o:p></pre>
<pre>rds-devel mailing list<o:p></o:p></pre>
<pre><a href="mailto:rds-devel@oss.oracle.com">rds-devel@oss.oracle.com</a><o:p></o:p></pre>
<pre><a href="http://oss.oracle.com/mailman/listinfo/rds-devel">http://oss.oracle.com/mailman/listinfo/rds-devel</a><o:p></o:p></pre>
<pre>&nbsp; <o:p></o:p></pre>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
</div>
</body>
</html>