Det har säkert att göra med IE:s gamla "double margin bug". Ibland får man dubbla marginaler i IE på flytande element av någon anledning. "Hacket" för att fixa det brukar vara att lägga till display: inline; på det flytande elementet, i ditt fall i .float-klassen då.