Fel på multiplikation

4 svar · 171 visningar · startad av Davida 31 jan. 2001

DavidaMedlem sedan okt. 2000219 inlägg

Frågan31 jan. 2001 15:35#1

om jag använder denna koden:

<%=formatcurrency(clng(antal*rs("specpris")),2)%>

och antal=3 och rs("specpris")=1000000,50 (eller 1000000.5, kommer inte ihåg vilken avgränsare man använder i huvudet) så blir svaret:
3.000.002,00 vilket borde sluta på 1,50 om inte mina mattekunskaper sviker mig :)

------------------

if user="David Altefur" then
  Response.write "Tack på förhand"
End if

StesalMedlem sedan jan. 20011 inlägg

31 jan. 2001 23:07#2

Det måste bero på att CLng() konverterar till Long som är ett heltal.

Stefan

DavidaMedlem sedan okt. 2000219 inlägg

1 feb. 2001 08:07#3

Vad heter datatypen för decimal?

------------------

if user="David Altefur" then
  Response.write "Tack på förhand"
End if

MMatsMedlem sedan sep. 200061 inlägg

1 feb. 2001 13:13#4

Double

@ndersMedlem sedan juni 200032 967 inlägg

1 feb. 2001 13:17#5

fast jag ser inte varför man skulle använda cdbl när man använder formatcurrency.

------------------
<A HREF="http://cartman.nu" TARGET=_blank>
if i'm not back in five minutes, just wait longer.</A>