fler decimaler

jompa · 2002-05-28, 21:30

om
doubleVaribel = 1/3
får jag att
doubleVariabel = 0,333333333333333
d.v.s. automatiskt med 15 decimaler. Om jag te.x. vill ha 40 decimaler istället, går det att ordna?

Gein · 2002-05-28, 21:41

datatypen Decimal, klarar väl något mer tror jag, men där kan inte talen bli särskilt stora istället

jompa · 2002-05-28, 21:49

finns den? hur?

Gein · 2002-05-28, 21:56

titta här: http://msdn.microsoft.com/library/de...rpdatatype.asp

dim tal as Decimal ?
[EDIT] fanns visst inte Decimal nu när jag provade i VB, men den står med där.. hmm

jompa · 2002-05-28, 22:20

hmm är precis min tanke, det är likadant för mig (kör VB6 så det borde funka) någon som vet nåt? eller som har en annan lösning?

LR^evil.sid · 2002-05-28, 22:49

Har jäklats med det ett tag nu men finner ingen lösning.
Verkar som att det inte finns nån typ för fler decimaler.
Skulle vara om du tog taler * 100 000 eller så. och sedan efter uträkningen delar det med 100 000.

LR^evil.sid · 2002-05-28, 23:28

Hur går det?

UlfT · 2002-05-29, 00:03

Citat:

dim tal as Decimal ?
[EDIT] fanns visst inte Decimal nu när jag provade i VB, men den står med där.. hmm

Jag går precis en kurs i VB.Net. Där finns Decimal. Jag tror det är en ny datatyp för .Net.

PeW · 2002-05-30, 16:45

Du kan ju även göra en algoritm som spottar ur sig decimalerna nuffra för nuffra. Vill du sen spara talet petar du in det i en array. För att hålla reda på decimalen är det ju bara att räkna med potens.

2002-05-28, 21:30	#1
jompa Medlem Registrerad: 2000-12-14 Ort: huskvarna Inlägg: 126 Lösningar: 0	fler decimaler om doubleVaribel = 1/3 får jag att doubleVariabel = 0,333333333333333 d.v.s. automatiskt med 15 decimaler. Om jag te.x. vill ha 40 decimaler istället, går det att ordna?

2002-05-28, 21:41	#2
Gein Medlem Registrerad: 2000-09-07 Ort: Uppsala Inlägg: 4 849 Lösningar: 69	datatypen Decimal, klarar väl något mer tror jag, men där kan inte talen bli särskilt stora istället __________________ The future is today, worry about it tomorrow

2002-05-28, 21:56	#4
Gein Medlem Registrerad: 2000-09-07 Ort: Uppsala Inlägg: 4 849 Lösningar: 69	titta här: http://msdn.microsoft.com/library/de...rpdatatype.asp dim tal as Decimal ? [EDIT] fanns visst inte Decimal nu när jag provade i VB, men den står med där.. hmm __________________ The future is today, worry about it tomorrow

Trådverktyg
Visa utskriftsvänlig version E-posta den här sidan
Visningsalternativ
Linjär visning Växla till hybrid-visning Växla till trådad visning

2002-05-28, 21:49	#3
jompa Medlem Registrerad: 2000-12-14 Ort: huskvarna Inlägg: 126 Lösningar: 0	finns den? hur?

2002-05-28, 22:20	#5
jompa Medlem Registrerad: 2000-12-14 Ort: huskvarna Inlägg: 126 Lösningar: 0	hmm är precis min tanke, det är likadant för mig (kör VB6 så det borde funka) någon som vet nåt? eller som har en annan lösning?

2002-05-28, 22:49	#6
LR^evil.sid Medlem Registrerad: 2002-05-02 Ort: Härnösand Inlägg: 552 Lösningar: 5	Har jäklats med det ett tag nu men finner ingen lösning. Verkar som att det inte finns nån typ för fler decimaler. Skulle vara om du tog taler * 100 000 eller så. och sedan efter uträkningen delar det med 100 000.

2002-05-28, 23:28	#7
LR^evil.sid Medlem Registrerad: 2002-05-02 Ort: Härnösand Inlägg: 552 Lösningar: 5	Hur går det?

2002-05-30, 16:45	#9
PeW Medlem Registrerad: 2000-06-20 Inlägg: 6 839 Lösningar: 1125	Du kan ju även göra en algoritm som spottar ur sig decimalerna nuffra för nuffra. Vill du sen spara talet petar du in det i en array. För att hålla reda på decimalen är det ju bara att räkna med potens.