Decimal Double

5 svar · 234 visningar · startad av Nickemannen 29 dec. 2002

NickemannenMedlem sedan aug. 20003 575 inlägg

Frågan29 dec. 2002 19:03#1

hmm, det blir fel

double dblWidth = (400/640);
eller
decimal dblWidth = (400/640);

blir noll när jag skriver ut det. det skall bli 0,625
vad kan vara fel ?

BrimbaMedlem sedan dec. 19995 874 inlägg

29 dec. 2002 19:06#2

Jag vet inte, men jag kan tänka mig att du måste göra såhär:

double dblWidth = (400/640.0);

eller

double dblWidth = ((double)400/(double)640);

NickemannenMedlem sedan aug. 20003 575 inlägg

29 dec. 2002 19:08#3

nevermind löste det

NickemannenMedlem sedan aug. 20003 575 inlägg

29 dec. 2002 19:09#4

jepp, precis så

nikoMedlem sedan juni 20022 599 inlägg

29 dec. 2002 19:10#5

Som Brimba säger så blir det heltalsdivision om man bara skriver: 400/640.

En tredje variant är: double dblWidth = 400D/640D;

NickemannenMedlem sedan aug. 20003 575 inlägg

29 dec. 2002 19:22#6

double dblWidth = ((double)400/(double)640);

löste det så