webForumDet fria alternativet

fler decimaler

.NET

8 svar · 342 visningar · startad av jompa

Medlem sedan dec. 2000112 inlägg
Frågan#1

om
doubleVaribel = 1/3
får jag att
doubleVariabel = 0,333333333333333
d.v.s. automatiskt med 15 decimaler. Om jag te.x. vill ha 40 decimaler istället, går det att ordna?

Medlem sedan sep. 20005 700 inlägg
#2

datatypen Decimal, klarar väl något mer tror jag, men där kan inte talen bli särskilt stora istället

Medlem sedan dec. 2000112 inlägg
#3

finns den? hur?

Medlem sedan sep. 20005 700 inlägg
#4

titta här: http://msdn.microsoft.com/library/default.asp?url=/library/en-us/vbenlr98/html/vagrpdatatype.asp

dim tal as Decimal ?
[EDIT] fanns visst inte Decimal nu när jag provade i VB, men den står med där.. hmm

Medlem sedan dec. 2000112 inlägg
#5

hmm är precis min tanke, det är likadant för mig (kör VB6 så det borde funka) någon som vet nåt? eller som har en annan lösning?

Medlem sedan maj 2002560 inlägg
#6

Har jäklats med det ett tag nu men finner ingen lösning.
Verkar som att det inte finns nån typ för fler decimaler.
Skulle vara om du tog taler * 100 000 eller så. och sedan efter uträkningen delar det med 100 000.

Medlem sedan maj 2002560 inlägg
#7

Hur går det?

Medlem sedan maj 20018 027 inlägg
#8

dim tal as Decimal ?
[EDIT] fanns visst inte Decimal nu när jag provade i VB, men den står med där.. hmm

Jag går precis en kurs i VB.Net. Där finns Decimal. Jag tror det är en ny datatyp för .Net.

Medlem sedan juni 200010 432 inlägg
#9

Du kan ju även göra en algoritm som spottar ur sig decimalerna nuffra för nuffra. Vill du sen spara talet petar du in det i en array. För att hålla reda på decimalen är det ju bara att räkna med potens. :)

253 ms totalt · 4 externa anrop · v20260731065814-full.1dc6f849
121 ms — deklarationer (db)
0 ms — hämta statistik (cache)
129 ms — hämta tråd, inlägg och bilagor (db)
119 ms — ändringar (db)