Undersökte din kod genom att peta in en border på #navlist li - och när jag gjort detta var mellanrummen borta i MSIE...
Testade då med border:none - men då kom det tillbaka...
Så en "magisk" lösning på ditt problem är att göra följande:
#navlist li {
border: 1px solid #F1F1F1; /* fråga inte ...*/
och sedan lägga in mellanrummet du vill ha med t.ex.
#navlist li a {
margin-bottom: 10px;
Men fråga mig nu inte exakt *varför* det fungerar :birp
Du kan börja med att ta bort xml deklarationen du har. Den får nämligen IE 6 att inte gå i standard compliance mode utan i quirks mode. Läs mer om det här: http://www.hut.fi/u/hsivonen/doctype.html
Sen för att lösa problemet du frågade efter, lägg till height:100%; på #navlist li a så löser det sig. :)