/ Forside / Teknologi / Udvikling / VB/Basic / Nyhedsindlæg
Login
Glemt dit kodeord?
Brugernavn

Kodeord


Reklame
Top 10 brugere
VB/Basic
#NavnPoint
berpox 2425
pete 1435
CADmageren 1251
gibson 1230
Phylock 887
gandalf 836
AntonV 790
strarup 750
Benjamin... 700
10  tom.kise 610
Run-time error '6': Overflow
Fra : Brian Østergård


Dato : 26-11-05 23:15

Hej

Jeg har en app som læser 4 bytes fra en hardwaretæller, men efter nogen tids
run får jeg

Run-time error '6': Overflow

Og så peger debugeren på denne linie.:
LblCounterA.Text = ((byte0 + (byte1 * 256) + (byte2 * 65536) + (byte3 *
16777216)) - Hz)

Resultatet af ovenstående er omkring 350 det ser altså ikke ud til at det er
et højt output der laver fejlen.

Håber der er nogen som kan komme med lidt gode ideer ?

Brian :ø)



 
 
Jens Vestergaard (27-11-2005)
Kommentar
Fra : Jens Vestergaard


Dato : 27-11-05 12:49

I news:4388de70$0$38685$edfadb0f@dread12.news.tele.dk,
skrev Brian Østergård <mantabrian@REMOVEhotmail.com>:
> Hej
>
> Jeg har en app som læser 4 bytes fra en hardwaretæller, men efter
> nogen tids run får jeg
>
> Run-time error '6': Overflow
>
> Og så peger debugeren på denne linie.:
> LblCounterA.Text = ((byte0 + (byte1 * 256) + (byte2 * 65536) + (byte3
> * 16777216)) - Hz)

Overflow kan godt opstå *inden i* en beregning selvom resultatet er en
integer.

Jeg ville nok noget i retning af...:

Dim dTmp As Double
dTmp = ((byte0 + (byte1 * 256) + (byte2 * 65536) + (byte3 * 16777216)) - Hz)
LblCounterA.Text = CStr(dTmp)


--
mvh
Jens Vestergaard (mailadr i dette indlæg er ikke gyldig!)
Døgnets jernbanenyheder: www.railsoft.dk/medier.asp




Brian Østergård (27-11-2005)
Kommentar
Fra : Brian Østergård


Dato : 27-11-05 19:01


"Jens Vestergaard" <j@railsoft.dk> skrev i en meddelelse
news:43899cd4$0$2110$edfadb0f@dtext02.news.tele.dk...
>I news:4388de70$0$38685$edfadb0f@dread12.news.tele.dk,
> skrev Brian Østergård <mantabrian@REMOVEhotmail.com>:
>> Hej
>>
>> Jeg har en app som læser 4 bytes fra en hardwaretæller, men efter
>> nogen tids run får jeg
>>
>> Run-time error '6': Overflow
>>
>> Og så peger debugeren på denne linie.:
>> LblCounterA.Text = ((byte0 + (byte1 * 256) + (byte2 * 65536) + (byte3
>> * 16777216)) - Hz)
>
> Overflow kan godt opstå *inden i* en beregning selvom resultatet er en
> integer.
>
> Jeg ville nok noget i retning af...:
>
> Dim dTmp As Double
> dTmp = ((byte0 + (byte1 * 256) + (byte2 * 65536) + (byte3 * 16777216)) -
> Hz)
> LblCounterA.Text = CStr(dTmp)
>
>
> --
> mvh
> Jens Vestergaard (mailadr i dette indlæg er ikke gyldig!)
> Døgnets jernbanenyheder: www.railsoft.dk/medier.asp
>
>
>
Hej

Tusind tak, det var lige hvad der skulle til

Brian :ø)



Søg
Reklame
Statistik
Spørgsmål : 177580
Tips : 31968
Nyheder : 719565
Indlæg : 6409075
Brugere : 218888

Månedens bedste
Årets bedste
Sidste års bedste