Anledningen till att det blir borders i cellerna i den nedersta tabellen är att det finns ett innehåll i dom. Om du skriver text i alla de andra cellerna så dyker border upp på dom också.
Om du bara vill ha border runt själva tabellen (inte runt cellerna) kan du skriva:
<table cellspacing="1" [b]border="0" style="border: 1px solid black;"[/b] width="780" cellspacing="1" height="600">
<tr>
<td width="200" height="600" valign="top">menu</td>
<td width="450" height="600" valign="top">main</td>
<td width="130" height="600" valign="top">submenu</td>
</tr>
</table>
