Странный Overflow

[--=GAMER=--]

Есть простой код с формулой:

Код: Выделить всё

Dim a,b,c,d as Double

a=1000
b=1.5
c=10

d = (a*(1-b^c))/(1-b) 'Здесь происходит Overflow


Однако Если заменить b на величину большую 2, Overflow Исчезает.
Совсем странно, если просто расписать:

Код: Выделить всё

d=(1000(1-1.5^10))/(1-1.5)


Overflow тоже исчезает.
Помогите разобраться.

[DirectXManiac]

d=(1000(1-1.5^10))/(1-1.5) ???
Без умножения????
Может так:
d=(1000*(1-1.5^10))/(1-1.5)
У меня чатенько бывают такие глюки но с чтением переменных из файла...

[--=GAMER=--]

Тьфу, естественно d=(1000*(1-1.5^10))/(1-1.5). Но ошибся я именно тут, в коде я умножение не забыл. Четния из файла не происходит, код примитивен до невозможности.

[IIIypuk]

У тебя a, b и с переменные типа вариант. Потому при присвоении a и с, как я понимаю, они конвертируются в integer.

ну а потом обычная ошибка оверфлова, напр.:

Код: Выделить всё

Dim a As Integer
Dim b As Integer
Dim c As Long

   a = 10000
   b = 10000
   c = a * b

А надо бы

c = CLng(a) * b

Мне кажется ошибка в этом.

Если обозначить
Dim a As Double, b As Double, c As Double, d As Double
то никакой ошибки нет.

[--=GAMER=--]

Неа. Проверил, всё равно Overflow. И главное ставим b=2.5 - оверфлоа нет, ставим b=1.5 - оверфлоу.....

[IIIypuk]

Скинь сам проект. Я счас проверил, и по первоначальному коду нет overflova

Может у тебя в проекте где перекрывается переменная?

З.Ы. А обозначать надо все же
Dim a As Double, b As Double, c As Double

Потому как код
Dim a, b, c As Double
a = "string"

прекрасно работает.

[--=GAMER=--]

ВотЪ.

[DirectXManiac]

--=GAMER=--
Гы... Ошибка очень глупая... Ты просто не внимательный
Замени этот код:
Private Sub Command1_Click()
a = Int(Text1.Text)
b = Int(Text2.Text)
c = Int(Text3.Text)
d = Int((a * (1 - b ^ c)) / (1 - b))
q = MsgBox(d, vbInformation, "Ðåçóëüòàò")
End Sub
На вот этот
Dim a As Double, b As Double, c As Double, d As Double
Private Sub Command1_Click()
a = CDbl(Text1.Text)
b = CDbl(Text2.Text)
c = CDbl(Text3.Text)
d = Int((a * (1 - b ^ c)) / (1 - b))
q = MsgBox(d, vbInformation, "Ðåçóëüòàò")
End Sub
У меня так работает! Внимание! делал 34 сек.

[DirectXManiac]

У тебя из Double конвертится в Integer и происходит overflow!

[--=GAMER=--]

Всё, спасибо, как всегда из-за невнимательности...

[DirectXManiac]

--=GAMER=--
Незачто!

[Sacred Phoenix]

Прошу прощения за оффтоп.

Dim a, b, c As Double
a = "string"

прекрасно работает.

а ты в курсе, что у тебя переменные a и b объявлены As Variant?

ЗЫ. Это же касается и --=GAMER=--, ибо в коде, приведённом в первом посте, переменные a, b и c объявляются вариантными, а при присвоении им той же 1000, тип меняется на Variant/Integer (по-моему).

[tyomitch]

IIIypuk в курсе, потому что он сам про это написал в своём первом ответе.
Phoenix, твои последние посты -- флуд и оффтоп. Такое не приветствуется.