256 х 256 помогите разобраться - крыша едет!

[Dimon111]

Чего я не понимаю:

Dim DAC As Single

DAC = 65536 - Проходит.
DAC = 256 * 256 - Пишет OverFlow.

Не прокатывает ни Single, ни Double ни Integer.

Не дайте сойти с ума - помогите!

[Хакер]

Dimon111
Type-Declaration Character спасёт тебя от желтого дома.
Статическая конвертация типа спасёт тебя от от него же.

[Dimon111]

И правда.
K = 256
DAC = 256 * K прокатывает

Почему я так и не понял. Наверно это также сложно, как вычислить квадратуру круга.

[HiSER]

DAC = 256# * 256#

[Dimon111]

Так еще изящнее. Поезд в Кащенко откладывается. Спасибо.

[Хакер]

Только, не самый удачный пример, по моему, приведён HiSer-ом. Зачем вообще тип Single (или Double, что там у тебя?) здесь. Только из-за границ?

[Dimon111]

Диапазон заботы АЦП до 40001. Наверное Integer подойдет, поскольку знак передается отдельно.

[TEST_ACCOUNT_2]

Dimon111
АЦП? Если это аналого-цифровой преобразователь, - сказанное тобой - огромнейшая глупость.

[Nord777]

Dimon111
АЦП? Если это аналого-цифровой преобразователь, - сказанное тобой - огромнейшая глупость.

можешь обосновать в чем именно глупость?

[Dimon111]

Коллега заблуждается. Я бы не судил столь категорично. АЦП бывают разные. В данном случае по COM - порту передается (в т. ч.) 2 байта от АЦП. Диапазон измерений 0 - 40000. 40001 считантся переполнением. Бит полярности (внимание) передаеттся отдельно.

[Nord777]

В данном случае по COM - порту передается (в т. ч.) 2 байта от АЦП. Диапазон измерений 0 - 40000. 40001 считантся переполнением. Бит полярности (внимание) передаеттся отдельно.

2 байта - 65535 (если знаковый бит передается отдельно) или 32767. Откуда 40000 ?

[Dimon111]

Я говорил о пределе отсчета АЦП, а не о колличестве возможных комбинаций.