Округление Single

[Debugger]

Внезапно, в старом VB6-ном проекте полезли странные баги.
При разборе полётов нашел странную вещь: в некоторых местах, если слева - Single, справа - Single, то происходит округление при присвоении:

Код: Выделить всё

Dim ASKV As Single
'(Immediate pane)
sample = CSng(AX - AXr) ^ 2
? sample
2160188,74506003
askv = sample
? askv
2160189
askv = 1.1
? askv
1,1

Доктор, что я делаю не так?

[Хакер]

Выглядит логично.

Где объявлена askv?

[Debugger]

Внутри функции. Это как-то влияет?
Переменной, которая так же называется, в проекте нет.

[Хакер]

Внутри функции. Это как-то влияет?

При этом, когда ты запускаешь строчку askv = sample в Immediate Pane, выполнение остановлено прямо в самой этой фукнции, где переменная объявлена?

[Debugger]

Да, верно. Останавливаю прямо на присвоении.

Интересно, что кусок кода, скопипащенный в отдельный проект, работает должным образом.

[Хакер]

Всё-таки, какие строчки являются кодом процедуры, а какие выполняются в Immediate Pane? Я думал, что присвоение выполняется в Immediate Pane. Это не так?

И кстати, нет DefInt/DefLng где-нибудь там случайно?

[Debugger]

https://gyazo.com/1a71a4e1fe157cd46a70143d60a4cfe3

оно выглядит вот так.

Что такое DefInt / DefLng? Переопределение Int/Long?

[Хакер]

Что такое DefInt / DefLng? Переопределение Int/Long?

Ну ты даёшь.

Код: Выделить всё

DefLng A-B, M-K, U,W,Z
DefInt i, s

И заодно, нет ли где-либо применения TDC к переменной ASKV?
Есть ли Option Explicit в проблемной модуле?

Не переводя выполнение с желтой строки, примени Add Watch к переменной ASKV и покажи, что будет в окне watch-ей?

[ger_kar]

И еще в окне 'Locals Window ' можно посмотреть тип переменной. Можно посмотреть до и после присвоения.

[ger_kar]

Ну и что показали исследования и опыты? Где собака порылась?

[The trick]

Переменная sample как объявлена? Большое предположение что это не Single. Single не может с такой точностью представить число. Можешь проверить юзая ! постфикс - оно автоматически будет округляться.

[Debugger]

Переменная sample как объявлена? Большое предположение что это не Single. Single не может с такой точностью представить число. Можешь проверить юзая ! постфикс - оно автоматически будет округляться.

sample никак не объявлен - он устанавливается в Immediate Pane, чтобы показать, что происходит что-то не то.

Ну и что показали исследования и опыты? Где собака порылась?

Пока не проверял пока уж больно много багов в этом старом проекте

[The trick]

Переменная sample как объявлена? Большое предположение что это не Single. Single не может с такой точностью представить число. Можешь проверить юзая ! постфикс - оно автоматически будет округляться.

sample никак не объявлен - он устанавливается в Immediate Pane, чтобы показать, что происходит что-то не то.

Ну и в чем тогда проблема? Ты Double приравниваешь к Single, соответственно значение и округляется, можешь, как я написал, с помощью постфикса проверить точность Single.

[Debugger]

Переменная sample как объявлена? Большое предположение что это не Single. Single не может с такой точностью представить число. Можешь проверить юзая ! постфикс - оно автоматически будет округляться.

sample никак не объявлен - он устанавливается в Immediate Pane, чтобы показать, что происходит что-то не то.

Ну и в чем тогда проблема? Ты Double приравниваешь к Single, соответственно значение и округляется, можешь, как я написал, с помощью постфикса проверить точность Single.

Да, всё оказалось просто:

Код: Выделить всё

? csng(1141543.89971855)
1141544
? csng(114154.89971855)
114154,9
? csng(11415.89971855)
11415,9

Single не хватает точности для записи этого числа. Всё пролечилось заменой на Double.

Кстати, сразу выяснилось, что поводом для появления этого бага стало изменение в файле конфигурации масштаба отрисовываемого изображения.
- Что-то меняли? - Нет, ничего не трогали, само сломалось, ещё вчера работало.

[Хакер]

Single не хватает точности для записи этого числа. Всё пролечилось заменой на Double.

Я как-то сразу отмел эту верcию, ориентируясь на слова о том, что перенос кода в другой (маленький) проект решает проблему.

[Debugger]

Single не хватает точности для записи этого числа. Всё пролечилось заменой на Double.

Я как-то сразу отмел эту верcию, ориентируясь на слова о том, что перенос кода в другой (маленький) проект решает проблему.

Так оно и было - в этом "другом" проекте использовалась нормальная конфигурация.