Problem med <li>

Har lite problem med <li>. Kolla bifogad bild för att förstå mer.

Så som rubrikerna under "Kommentarer" beter sig så ska rubrikerna under "Senaste" också göra.
"Senaste" har <li> taggar men det har inte "Kommentarer".

Varför beter sig <li> taggen så och hoppar in ? Hur ska jag fixa till det så att mina "Senaste" rubriker är i samma linje som "kommentarer"? Jag måste ju använda mig av <li> för jag ska ha en bildicon på varje <li>.

Någon som vet?

HTML:

<h4>Senaste</h4>
            <h5><ul><li><a href="http://www.grebban.com/index.php?id=12">Observera att sidan INTE &auml;r klar!</a></li>

<li><a href="http://www.grebban.com/index.php?id=11">Snart kommer den upp</a></li>
<li><a href="http://www.grebban.com/index.php?id=10">3 nya foton och l&auml;nkar</a></li>
<li><a href="http://www.grebban.com/index.php?id=5">Version 3.0!</a></li></ul></h5>
            <br />
         <h4>Kommentarer</h4>
            <h5>
            <a href="/index.php?id=5#c000014">freddan (Version 3.0!)</a><p>Riktigt najs vart den :)</p>

<a href="/index.php?id=11#c000013">Eric (Snart kommer den upp)</a><p>eeee</p>
<a href="/index.php?id=11#c000012">kalle (Snart kommer den upp)</a><p>gogogo! funkar gravatar?</p>
<a href="/index.php?id=10#c000011">klas (3 nya foton och l&auml;nkar)</a><p>gf</p>
<a href="/index.php?id=10#c000010">klas (3 nya foton och l&auml;nkar)</a><p>h</p></h5>

CSS:

h5{
	margin: 0 20px 2px 12px;
	font-size: 85%;
	font-family: "Trebuchet MS", Verdana, sans-serif;
	color: #93B713;
}
#sidebar{
	padding: 15px 0 0 0;
	float: right;
 	width: 214px; 
}
#sidebar p, #sidebar .favicon{
	margin: 0 20px 8px 12px;
	font-size: 75%;
	font-family: "Trebuchet MS", Verdana, sans-serif;
	color: #C4C4C4;
}
#sidebar p:hover{
	color: #A5CC17;
}

Tack för hjälpen!