Погрешность при суммировании... как победить?..

[Death666]

Есть такая проблема: во время работы цикла прирощение составляет, например, 0.2 на каждой итерации, ряд полученных по идее значений должен быть:

2; 2.2; 2.4; 2.6; 2.8; 3; 3.2; 3.4; 3.6; 3.8; 4.....

На деле почти всегда выходит примерно следующее6

2; 2.2; 2.4; 2.5999999; 2.799999; 2.99999; 3.19999....

Я думаю вы меня поняли... Это как-нибудь исправляется?

[Matew]

Округлением до нужного знака и/или исправлением верхней границы цикла, если последняя итерация не происходит.

[Amed]

Код в студию

[Viper]

Есть подозрение, что код в соседнем топике. Там автор реализует цикл при помощи типа Single (а мож Double).

[Death666]

Есть подозрение, что код в соседнем топике. Там автор реализует цикл при помощи типа Single (а мож Double).

А что, с помощью Single нельзя?

[Viper]

Можно, но вот нужно ли... В специфике такого цикла ты уже убедился...

[alibek]

Если очень хочется, попробуй использовать Currency.

[Konst_One]

Код: Выделить всё

Dim I as Long
Dim J as Single

FOR I=10 TO 100 STEP 2
     
    J=CSng(I/10)
    Debug.Print J

NEXT I

[Death666]

Подскажите функцию округления до нужного знака?...

[Matew]

Death666, тебе ее написал Konst_One (Умножить на 10 или 100, округлить, и опять разделить)

[Viper]

А Round что отменили?

[Debugger]

Death666, тебе ее написал Konst_One (Умножить на 10 или 100, округлить, и опять разделить)

Код: Выделить всё


Dim i As Double
i=1,2344321
i=CDbl(CInt(i*100)/100)


Вроде того?

[Viper]

А

Код: Выделить всё

Round(1.23458, 2)

не проще?

[Death666]

!Viper!, всё работает ОК! Спасибо)