webForumDet fria alternativet

fler decimaler

8 svar · 341 visningar · startad av jompa

jompaMedlem sedan dec. 2000112 inlägg
#1

om
doubleVaribel = 1/3
får jag att
doubleVariabel = 0,333333333333333
d.v.s. automatiskt med 15 decimaler. Om jag te.x. vill ha 40 decimaler istället, går det att ordna?

GeinMedlem sedan sep. 20005 700 inlägg
#2

datatypen Decimal, klarar väl något mer tror jag, men där kan inte talen bli särskilt stora istället

jompaMedlem sedan dec. 2000112 inlägg
#3

finns den? hur?

GeinMedlem sedan sep. 20005 700 inlägg
#4

titta här: http://msdn.microsoft.com/library/default.asp?url=/library/en-us/vbenlr98/html/vagrpdatatype.asp

dim tal as Decimal ?
[EDIT] fanns visst inte Decimal nu när jag provade i VB, men den står med där.. hmm

jompaMedlem sedan dec. 2000112 inlägg
#5

hmm är precis min tanke, det är likadant för mig (kör VB6 så det borde funka) någon som vet nåt? eller som har en annan lösning?

LR^evil.sidMedlem sedan maj 2002560 inlägg
#6

Har jäklats med det ett tag nu men finner ingen lösning.
Verkar som att det inte finns nån typ för fler decimaler.
Skulle vara om du tog taler * 100 000 eller så. och sedan efter uträkningen delar det med 100 000.

LR^evil.sidMedlem sedan maj 2002560 inlägg
#7

Hur går det?

UlfTMedlem sedan maj 20018 027 inlägg
#8

dim tal as Decimal ?
[EDIT] fanns visst inte Decimal nu när jag provade i VB, men den står med där.. hmm

Jag går precis en kurs i VB.Net. Där finns Decimal. Jag tror det är en ny datatyp för .Net.

PeWMedlem sedan juni 200010 432 inlägg
#9

Du kan ju även göra en algoritm som spottar ur sig decimalerna nuffra för nuffra. Vill du sen spara talet petar du in det i en array. För att hålla reda på decimalen är det ju bara att räkna med potens. :)

132 ms totalt · 3 externa anrop · v20260731065814-full.fb544a5a
0 ms — hämta forumlista (cache)
0 ms — hämta statistik (cache)
128 ms — hämta tråd, inlägg och bilagor (db)