255 * 255 = Overflow

Программирование на Visual Basic, главный форум. Обсуждение тем программирования на VB 1—6.
Даже если вы плохо разбираетесь в VB и программировании вообще — тут вам помогут. В разумных пределах, конечно.
Правила форума
Темы, в которых будет сначала написано «что нужно сделать», а затем просьба «помогите», будут закрыты.
Читайте требования к создаваемым темам.
anian
Продвинутый пользователь
Продвинутый пользователь
 
Сообщения: 116
Зарегистрирован: 02.10.2002 (Ср) 12:05
Откуда: /dev/null

255 * 255 = Overflow

Сообщение anian » 19.01.2007 (Пт) 13:26

Не понимаю:
Код: Выделить всё

Dim lParam as Long
...
lParam = 254*129 'работает
'если любое из этих чисел больше хотя бы на 1, то происходит overflow

'но если -
lParam = 254*CLng(300) 'работает
lParam = CLng(280)*300 'работает
Трез-вы-ми мы не сда-дим-сииии!!! Ураааааа!!!

Amed
Алфизик
Алфизик
 
Сообщения: 5346
Зарегистрирован: 09.03.2003 (Вс) 9:26

Сообщение Amed » 19.01.2007 (Пт) 13:29


anian
Продвинутый пользователь
Продвинутый пользователь
 
Сообщения: 116
Зарегистрирован: 02.10.2002 (Ср) 12:05
Откуда: /dev/null

Сообщение anian » 19.01.2007 (Пт) 13:54

to Amed:
Спасибо!
Трез-вы-ми мы не сда-дим-сииии!!! Ураааааа!!!


Вернуться в Visual Basic 1–6

Кто сейчас на конференции

Сейчас этот форум просматривают: Google-бот, Yandex-бот и гости: 123

    TopList