1 svar · 431 visningar · startad av Travoni
Här har jag två funktioner som jag gjort som skall funka på samma sätt, men det är bara det att de returnerar olika resultat...ibland.
ex. Response.Write(getDiff(5,0.4)) returnerar 82
Private Function getDiff(ByVal objCount As Int64, ByVal diffSum As Decimal) As Integer
Return (100 * ((objCount * 4.5 - Math.Abs(diffSum)) / (objCount * 4.5)))
End Function
och
select getDiff(5,0.4) returnerar 98
CREATE DEFINER=`userX`@`%` FUNCTION `getDiff`(objCount int,diffSum decimal(6,5)) RETURNS int(3)
BEGIN
RETURN (100 * (((objCount * 4.5) - abs(diffSum)) / (objCount * 4.5)));
END;
Bord det inte göra samma sak?
travoni skrev:
Här har jag två funktioner som jag gjort som skall funka på samma sätt, men det är bara det att de returnerar olika resultat...ibland.
Jag skulle misstänka att MySql och .NET inte hanterar dina integers på samma sätt. Så jag misstänker att ditt problem ligger i din (objCount * 4.5). Jag skulle testa med att typomvandla din objCount till en double innan du använder den i din uträkning.
- M