webForumDet fria alternativet

Decimal Double

5 svar · 234 visningar · startad av Nickemannen

NickemannenMedlem sedan aug. 20003 575 inlägg
#1

hmm, det blir fel

double dblWidth = (400/640);
eller
decimal dblWidth = (400/640);

blir noll när jag skriver ut det. det skall bli 0,625
vad kan vara fel ?

BrimbaMedlem sedan dec. 19995 875 inlägg
#2

Jag vet inte, men jag kan tänka mig att du måste göra såhär:

double dblWidth = (400/640.0);

eller

double dblWidth = ((double)400/(double)640);

NickemannenMedlem sedan aug. 20003 575 inlägg
#3

nevermind löste det

NickemannenMedlem sedan aug. 20003 575 inlägg
#4

jepp, precis så

nikoMedlem sedan juni 20022 599 inlägg
#5

Som Brimba säger så blir det heltalsdivision om man bara skriver: 400/640.

En tredje variant är: double dblWidth = 400D/640D;

NickemannenMedlem sedan aug. 20003 575 inlägg
#6

double dblWidth = ((double)400/(double)640);

löste det så

132 ms totalt · 3 externa anrop · v20260731065814-full.86db40fa
0 ms — hämta forumlista (cache)
0 ms — hämta statistik (cache)
129 ms — hämta tråd, inlägg och bilagor (db)