System.OverflowException: Arithmetic operation resulted in an overflow?

2 svar · 660 visningar · startad av Jesper T 15 feb. 2008

Jesper TMedlem sedan nov. 20017 144 inlägg

Frågan15 feb. 2008 00:21#1

Private Function getDiff(ByVal objCount As Integer, ByVal diffSum As Decimal) As Integer
    Return 100 * ((objCount * 4.5 - diffSum) / (objCount * 4.5))
End Function

Antar att jag skickar in nullvärde eller så men går det att kringgå på ett smidigt sätt?

spangoMedlem sedan juni 20008 205 inlägg

15 feb. 2008 08:47#2

Manualen skrev:

The exception that is thrown when an arithmetic, casting, or conversion operation in a checked context results in an overflow.

Låter alltså som att resultatet av uträkningen (eller någon del av den) blir för stort för att få plats i en Integer (vilket jag antar är synonymt med Int32) Använd UInt32 eller Int64 (eller UInt64, eller Decimal), alt. se över om du kan ändra på uträkningen (dvs skala ner den) så att den inte ger så stora tal.

Jesper TMedlem sedan nov. 20017 144 inlägg

15 feb. 2008 12:46#3

Ok, tack för nu. :)