Что означает "#INF" в дробной части значения переменной?

[VBTerminator]

Имеется в виду значения вида "3,#INF" в переменных типа Single. И ещё, как такое происходит и как этого можно избежать.

P. S.: В интернете поискать не удалось, потому что все поисковики (включая форумный) дружно игноируют знак решётки и думают, что меня интересуют файлы *.inf.

P. P. S.: ОС - Windows XP SP2, процессор - AMD Turion X2 Ultra Dual-Core Mobile ZM-86 64-х разрядный; в свойствах проекта в окне Compile->Advansed Optimisations все флажки не отмечены; патч бэйсика SP6 установлен.

[FireFenix]

Вообще #inf = infinity , т.е. бесконечность.

[VBTerminator]

А из-за чего такое происходит? И как вообще возможно "три целых бесконечность десятых"?
И самое главное - как избежать такого, ведь переменная с таким значением в сложных выражениях считается за нуль.

Кстати, ошибка возникает на участке кода следующего вида:

Код: Выделить всё

res1 = CSng(a.X - b \ 2) / c

где:
a - пользовательский тип с полями X, Y и Z типа Integer,
b - Long,
c - Single,
res1 - Single.

Этот кусок находится в функции, вызываемой через API другой программой (сделано с помощью FNDLL от Хакера), параметры передаются (без искажений - проверил печатью значений переменных в файл) в качестве аргументов этой функции; странный результат появляется на шаге деления выхода CSng (-720) на переменную "c" (10).

[Хакер]

Этот кусок находится в функции, вызываемой через API другой программой (сделано с помощью FNDLL от Хакера), параметры передаются (без искажений - проверил печатью значений переменных в файл) в качестве аргументов этой функции; странный результат появляется на шаге деления выхода CSng (-720) на переменную "c" (10).

Нет, возможно дело как раз в этом. Там между делом должно сбрасываться состояние FP-сопроцессора. Если этого не делать, вылезают разные интересные глюки.

Выши минимальную часть проекта, достаточную для воспроизведения бага для анализа.

[Хакер]

CSng (-720) на переменную "c" (10).

Убедись, что ерунда получается в самой функции, а не на вызывающей стороне. И если нет, попробуй с ByVal- перейти на ByRef-передачу параметров, и даже возврат передавать через ByRef.

[VBTerminator]

К сожалению (или к счастью) ошибка неожиданно и бесследно исчезла, поэтому вычленить проблемные куски кода не смог.

[iGrok]

ошибка неожиданно и бесследно исчезла

Это - всегда "к сожалению", и достаточно часто - к конкретному геморрою в будущем. Если не повезёт.

[VBTerminator]

Всё, ошибка вернулась!

Во вложении находится две папки: lib с исходниками библиотеки и demo со скомпилированной библиотекой и исходниками программы, её использующей.

Ошибка возникает в функции Library.modCamera.V3DR_MoveCamera на присвоении sglWorldX, sglWorldY и sglWorldZ. Кстати, отладочный вывод из MsgBox в той функции сообщает:

Но при попытке присвоить вычисление переменной происходит ошибка деления на ноль:

sglWorldX = 1,#INF, sglWorldY = 1,#INF, sglWorldZ = 0

Дополнительная информация: IDE работает в VirtulBox, настроенном на эмуляцию одного ядра.

[Хакер]

Я поставил перед вычислением вот это:

Код: Выделить всё

MsgBox NewPos.X & " : " & lngRenderBufferX & " : " & sglVoxelScale

и получил вот это:

Код: Выделить всё

150 : 0 : 0


Соответственно, что ты хочешь получить, деля на ноль?