Точность вычислений VB vs VBS.

[Mikle]

Код: Выделить всё

Option Explicit
Dim n, pi

pi = 0
For n = 1 To 20000000 Step 4
  pi = pi + 4 / n - 4 / (n + 2)
Next
pi = pi + 2 / n

msgbox pi

Такой код на VBS вычисляет число Пи с полной для Double точностью:
3.14159265358979
На vb6, если Pi задать, как Double, получаем:
3.14159265358897
Если как Variant:
3.14159265358984
Откуда такая разница?

[Alec]

Хм...
Такой код в VB 6.0

Код: Выделить всё

...
For n = 1 To 20000000 Step 4
  pi = pi + 4 / CDbl(n) - 4 / (CDbl(n) + 2)
Next
pi = pi + 2 / CDbl(n)
...


дает в итоге 3.14159265358979 и при pi As Variand и при pi As Double.
Значит дело в n, точнее в точности операций между Double и Long IMHO

[alibek]

Видимо переводится в Decimal.

[Mikle]

дает в итоге 3.14159265358979 и при pi As Variand и при pi As Double.

А у меня не даёт... Athlon64 3800+, что? AMD опять накосячили с точностью, как когда-то на K6-2? А почему тогда VBScript не ошибается, не использует сопроцессор?

[Joo]

Все дело в Double!
Знаю из собственных опытов, по крайней мере в C++ Double довольно не точная штука.

[Andrey Fedorov]

дает в итоге 3.14159265358979 и при pi As Variand и при pi As Double.

А у меня не даёт... Athlon64 3800+, что? AMD опять накосячили с точностью, как когда-то на K6-2? А почему тогда VBScript не ошибается, не использует сопроцессор?

Athlon не причем - у меня Core 2 Duo и результат 3.14159265358897

[v@Mp!rO]

Не стоит вообще использовать числа с плавающей точкой в подобного рода коде. Почитайте что они из себя представляют и тогда поймете почему такая разница в результатах на разных процессорах.

[Mikle]

У кого-нибудь ещё как у Alec работает?

[Alec]

Вообще прикольно...
Увидел

У кого-нибудь ещё как у Alec работает?

, решил себя перепроверить... Был очень удивлен значениями
3.14159265358897
3.14159265358984
но не как не 3.14159265358979
Только хотел извиниться за ошибку, еще раз прогнал на VBS (3.14159265358979), поэкспериментировал типами, вернул все на место, запустил и... опять увидел 3.14159265358979!
Странно, думаю, запустил еще VB6, скопировал код - 3.14159265358984.
Вернулся - 3.14159265358979.
Начал писать пост, еще пару раз запустил - 3.14159265358928!
Похоже тут еще какие-то внешние силы действуют)))

[SLIM]

у меня что Variant что Double дает один ответ 10 раз из 10
3.14159265358984