Fel på multiplikation

ASP

4 svar · 190 visningar · startad av Davida

Medlem sedan okt. 2000219 inlägg
Trådstart#1

om jag använder denna koden:

<%=formatcurrency(clng(antal*rs("specpris")),2)%>

och antal=3 och rs("specpris")=1000000,50 (eller 1000000.5, kommer inte ihåg vilken avgränsare man använder i huvudet) så blir svaret:
3.000.002,00 vilket borde sluta på 1,50 om inte mina mattekunskaper sviker mig :)

Medlem sedan jan. 20011 inlägg
#2

Det måste bero på att CLng() konverterar till Long som är ett heltal.

Stefan

Medlem sedan okt. 2000219 inlägg
#3

Vad heter datatypen för decimal?

Medlem sedan sep. 200061 inlägg
#4

Double

Medlem sedan juni 200032 967 inlägg
#5

fast jag ser inte varför man skulle använda cdbl när man använder formatcurrency.

254 ms totalt · 4 externa anrop · v20260731065814-full.d34c6d5a
121 ms — deklarationer (db)
0 ms — hämta statistik (cache)
126 ms — hämta tråd, inlägg och bilagor (db)
125 ms — ändringar (db)