webForumDet fria alternativet

Beräkningsfel returnerar ett liiitet tal.

ASP

2 svar · 344 visningar · startad av KalsongCesar

Medlem sedan mars 2001339 inlägg
Frågan#1

Hej.
Jämför två noteringar jag har i en ms-sql server lagrade som float. Tittar jag i databasen så är värdena 120,6 och 120,6
När jag nu tar värde1 - värde2 så får jag = -1,4210854715202E-14
Det är inte alla jämförelser som returnerar detta lilla tal utan oftast blir det 0

Jag har gjort jämförelsen både i asp och direkt inne i sqlfrågan och det blir samma resultat.

Värdena är importerade från en excelfil om det kan hjälpa..
Ngn som vet ngt?
Blir gaalen.
:x

Medlem sedan juni 20034 013 inlägg
#2

Flyttalstyper är inte exakta. Ska du använda dem får du bara använda ett visst antal decimaler, säg kanske fyra stycken.

Medlem sedan mars 2001339 inlägg
#3

Tack, bytte till numeric och det funkar.

255 ms totalt · 4 externa anrop · v20260731065814-full.1dc6f849
123 ms — deklarationer (db)
0 ms — hämta statistik (cache)
126 ms — hämta tråd, inlägg och bilagor (db)
123 ms — ändringar (db)