Умножение

[Demonx]

Почему код

Код: Выделить всё

MsgBox 204 * 255

выдаёт ошибку Overflow?

[Boss IT]

Почему код

Код: Выделить всё

MsgBox 204 * 255

выдаёт ошибку Overflow?

Большие числа.... Переполнение памяти.

[Demonx]

52020 это большое число? хочешь сказать что никак нельзя умножить?

[Demonx]

Странно, но почему-то этот код

Код: Выделить всё

Dim a As Long
For i = 1 To 255
a = a + 204
Next i
MsgBox a

работает!

[GM]

Потому что VB подбирает тип к наиболее близкий тип к числовым константам. В даном случае это байт. А поскольку 204 * 255 > 255 то происходит переполнение.

MsgBox 204 * 255&

[Demonx]

Теперь понятно, спасибо!

[tyomitch]

Потому что VB подбирает тип к наиболее близкий тип к числовым константам. В даном случае это байт. А поскольку 204 * 255 > 255 то происходит переполнение.

MsgBox 204 * 255&

Неправда. В данном случае это Integer.
А поскольку 204 * 255 > 32767, то происходит переполнение.

[Alexander N. Samarin]

MsgBox Str$(CLng(204*255))

[GSerg]

Alexander N. Samarin
Ты этот код проверял?
А таки проверь.

[Alexander N. Samarin]

Упс... Overflow... Даже с CDbl... Мне плохо....

[GM]

Потому что VB подбирает тип к наиболее близкий тип к числовым константам. В даном случае это байт. А поскольку 204 * 255 > 255 то происходит переполнение.

MsgBox 204 * 255&

Неправда. В данном случае это Integer.
А поскольку 204 * 255 > 32767, то происходит переполнение.

Сорри, ошибся

[ZePHyR]

msgbox(clng(204)*255)

[tyomitch]

ZePHyR,

[Krioss McKill'em]

Код: Выделить всё

Dim a(99), b, i, j As Single
Dim N As Byte
Dim f As Single

Private Sub Command1_Click()
List1.Clear
N = Val(Text1.Text)
For i = 3 To N
a(i) = i
f = (2 ^ (a(i) - 1) - 1) Mod a(i)
If f = 0 Then List1.AddItem a(i)
Next
End Sub

Overflow! в строке с f
** причём только с N начиная 34

[Viper]

Оператор Mod пытается пеобразовать операнды к типу Long. Первый операнд в эотм случае будет равен 8589934591, что заведомо больше 2147483647... И кстати проблема вылезает не при N = 34, а на шаг раньше, при N = 33

З.Ы.
1. Надо объявлять переменные указывая их тип (у тебя Variant почти везде).
2. Зачем тебе вообще массив в этом коде?
3. Преобразования типов и спецификаторы типов рулят (CLng, CDbl... &,#...)

З.Ы.Ы. И на кой понадобилось заниматься некрофилией?

[Nicky]

Код: Выделить всё

  Dim l As Long
  l = 204
  l = l * 255
  MsgBox l


О!

Код: Выделить всё

MsgBox 204& * 255&

[Viper]

2 Nicky, а к чему твой код?

[Nicky]

Мой по теме. По теме. Той, что наверху.

[Krioss McKill'em]

"Задача 1. Среди простых чисел, не превосходящих заданного натурального числа N, найти такое, запись которого в двоичной системе счисления содержит максимальное число единиц. Если таких чисел несколько, найти минимальное число."
Вот и вся некрофилия...

[Viper]

Посмотри на дату создания топика. Самая натуральная некрофилия.

[Nicky]

Я еще подумал: "Вроде новая тема, а нифига уже напостили..."

[Krioss McKill'em]

А я просто что-то искал в яндексе, вышел на эту тему, вот тут и сделал, чтоб новую не создавать.

[Amed]

Я что-то искал в форуме, сюда вообще случайно зашел. Закрою на всякий случай прямо сейчас, а то возвращаться - плохая примета.

Krioss McKill'em, не ленись, создай новый топик
Только не тут, а в VB для новичков.