Long

[Конь]

Странное дело. Почему число, хранящееся в переменной типа long в С++, не влезает в переменную Long в VB? Обе занимают в памяти 4 байта... не понимаю.

[tyomitch]

Откуда вывод, что не влезает?

[Хакер]

Мне кажется - я понял откуда вывод.

Оттуда, что

Код: Выделить всё

long e;
e= 2147483648;

у автора работает, а

Код: Выделить всё

Dim e as long
e=2147483648

- нет.

Конь, я угадал?

[Конь]

Примерно так:) Почему - не могу понять:)

[tyomitch]

Мне кажется - я понял откуда вывод.

Оттуда, что

Код: Выделить всё

long e;
e= 2147483648;

у автора работает

(Причём после этого e<0 вернёт TRUE, но это автора не колышет?)

[Viper]

Подсказка, подумать, что есть 2147483648 в шестнадцатеричнй форме.

[Конь]

Так... Вроде бы понятно.
Вопрос: Как перевести число из шестнадцатеричной в десятичную систему? Чтоб могло получиться отрицательное число... Порылся в инете, чего-то ничего интересного не накопал... А то мне как раз надо дофига чисел переводить в десятичную, написал функцию, а оно мне Overflow выдает.

[Хакер]

Так... Вроде бы понятно.

Ура!!

Вопрос: Как перевести число из шестнадцатеричной в десятичную систему?

НиУра

А то мне как раз надо дофига чисел переводить в десятичную, написал функцию, а оно мне Overflow выдает.

Покажи. А то может быть xenomorph-овский DeHex() отдыхает

Viper
Подсказка ему не помогла.

[Конь]

Немножко непрактично, писал на скорую руку. Но, в принципе, работает. Только не работает с отрицательными числами. Ибо алгоритма не знаю...

Код: Выделить всё

Private Function Hex2Dec(ByVal HexNum As String) As Long

    Dim i As Integer
    Dim sTmp As String, iTmp As Integer
    For i = 1 To Len(HexNum)
        sTmp = Mid(HexNum, Len(HexNum) - i + 1, 1)
        Select Case LCase(sTmp)
            Case "a"
                iTmp = 10
            Case "b"
                iTmp = 11
            Case "c"
                iTmp = 12
            Case "d"
                iTmp = 13
            Case "e"
                iTmp = 14
            Case "f"
                iTmp = 15
            Case Else
                iTmp = Val(sTmp)
        End Select
        Hex2Dec = Hex2Dec + iTmp * 16 ^ (i - 1)
    Next

End Function


[Хакер]

Конь
Во-первых: нафига тебе хранить значения ввиде строки?
Во-вторых: Val переводит строковый Hex в число с учётом знака.

[Конь]

1. Я пытаюсь перевести некий код с С++ в VB. А там все в hex. 1023 числа:) Не буду же я их вручную переводить в десятичную систему... Проще запихнуть их в каком надо виде в код и перевести программно
2. Нифига он не переводит. На числа, начинающиеся с букв выдает 0, с цифр - первые цифры, до букв.

[Хакер]

1. Там 0x01234567. Вот и пиши в программе &h01234567. И не надо хранить хекс строкой.

2. Val("&h80123456")

[Конь]

Бгг. Спасибо