ошибка overflow

[empty-name]

Dim v As Long
v = 72 * 1000
на выражение ругается ошибкой overflow (переполнение)
почему? у меня же long там оч большие цифры должны помещаться

[Qwertiy]

72 и 1000 - инты, а не лонги. Хотя мне казалось, что должно работать.

[Viper]

Dim v As Long
v = 72 * 1000
на выражение ругается ошибкой overflow (переполнение)
почему? у меня же long там оч большие цифры должны помещаться

Результат умножения двух Integer (как у тебя) VB пытается поместить в Integer, а 72 000 туда не вмещается. Надо использовать символ & после числа (можно только для одного из операндов) v = 72& * 1000&. Результат будет Long.

[ger_kar]

Результат умножения двух Integer (как у тебя) VB пытается поместить в Integer

Вообще конечно странная логика. Нет оно конечно будет так как написал Viper, но я имею ввиду логику, которой руководствовались разработчики. А странная потому, что на каком таком основании принимается решение о том, что 72 и 1000 это значения типа Integer? Оно с таким же успехом входит и в диапазон значений типа Long, а 72 еще и в диапазон типа Byte. Было бы логично при этом определять тип по типу переменной, в которую помещается значение, и в данном примере это будет Long. Поэтому логично предположить, что если приемник типа Long, то и два операнда, попадающие в этот диапазон тоже имеют этот тип. Опять же приложение 32х разрядное и Long это можно сказать родной тип, но нет, почему то VB считает, что это Integer. Ну никакой логики.

[Qwertiy]

Во всех нормальных языках программирования по умолчанию тип констант int и double. И значение вычисляется в соответствии с типами операндов, а не того, чему оно присваивается (что в Си, например, вообще может отсутствовать).

[ger_kar]

Во всех нормальных языках программирования по умолчанию тип констант int

Это что, со времен 16х систем пошло? Пора бы уже перейти на новые рельсы, сразу на 64х типы

[Qwertiy]

Во всех нормальных языках программирования по умолчанию тип констант int

Это что, со времен 16х систем пошло? Пора бы уже перейти на новые рельсы, сразу на 64х типы

Только int сейчас 32-битный. Вообще-то, не понимаю, почему его не сделать 64-битным на соответствующих машинах. А то только проблемы с указателями создаёт...

[Penumbra]

у меня таже проблема только числа намного больше

Код: Выделить всё

Tmp3 = 2230226227  '  это ->  &H84EE8D33
Mask1 = &H7FFFFF
Tmp = (Tmp3 And Mask1)

на последней строке выдает переполнение
в место Long пробывал Double
да еще
как заставить бейсик &H84EE8D33
перевести в 2230226227 а не в -2064741069

[Хакер]

у меня таже проблема только числа намного больше
на последней строке выдает переполнение

Воистину у тебя та же проблема: ты не сделал того, чего рекомендуют здесь. Ещё раз читай вот это. А потом вот это.

перевести в 2230226227 а не в -2064741069

А это одно, и то же, родной. Как 5 часов и 17 часов.

[Mikle]

Воистину у тебя та же проблема:

Нет, проблема даже больше - он пытается получить результат логической операции от Double переменных, бейсик их автоматом пытается привести к Long, а результат не помещается.

Tmp3 = 2230226227 ' это -> &H84EE8D33

Кто тебе мешает так и написать:

Код: Выделить всё

Tmp3 = &H84EE8D33

И все три переменных определить, как Long?

как заставить бейсик &H84EE8D33
перевести в 2230226227 а не в -2064741069

Ты пойми, что если ты и переведёшь величину так, то в Long она уже не поместится.
А вообще перемудрили, конечно, с шестнадцатиразрядной записью, например:

Код: Выделить всё

Debug.Print &H8000& = &H8000

[ger_kar]

Воистину у тебя та же проблема: ты не сделал того, чего рекомендуют здесь. Ещё раз читай вот это. А потом вот это.

Целых три совета, но всего одна ответа

[Хакер]

А вообще перемудрили, конечно, с шестнадцатиразрядной записью, например:

По твоему должно быть True?

[ger_kar]

А вообще перемудрили, конечно, с шестнадцатиразрядной записью, например: Debug.Print &H8000& = &H8000

По твоему должно быть True?

А разве не должно? Два сравниваются два одинаковых значения в итоге должно быть True. Даже если тип и другой, но значение то одинаковые!

[Хакер]

Не должно.

Сравниваются не два одинаковых значения. Надо просто правильно строить мысль.

Итак.
Два разнотипных значения никогда нельзя сравнить. Нигде. Всегда везде при сравнении разнотипных величин одна из величин конвертируется так, чтобы тип стал одинаковый. Так? Например если сравнивать, Double и Byte, то Byte преобразуется в Double, и будет сравнение двух Double-ов. Если сравнивается строка и число, то либо число конвертируется в строку, и сравниваются две строки, либо строка в число, и сравнивается два числа (зависит от языка, что во что).
Всегда разнотипные величины преобразуются в однотипные, и только потом однотипные сравниваются.

С этим будет кто-то спорить? Никто.

Дальше. Здесь мы имеем два разнотипных значения. Прежде чем их сравнить, необходимо «привести к общему знаменателю» (сделать их однотипными). Поскольку приводятся «к большему», то Integer превращается в Long, а не наоборот. После того, как Integer преобразуется в Long, мы имеем два неодинаковых Long-числа.

Всё крайне логично.

[ger_kar]

Всё крайне логично.

Теперь да. А вообще-то конечно, плохо, что в VB нет беззнаковых типов данных, кроме конечно byte.

[Хакер]

И вот ещё.

А вообще перемудрили, конечно, с шестнадцатиразрядной записью,

Кто перемудрил? Разработчики VB?
Тогда вот аналогичное на Си:

Код: Выделить всё

#include <stdio.h>

int main()
{
    if( (int)0x8000 == (short)0x8000 )  // с учётом того, что Long → int, а Integer → short.
        printf("TRUE");
    else
        printf("FALSE");
}

[Mikle]

После того, как Integer преобразуется в Long, мы имеем два неодинаковых Long-числа.
Всё крайне логично.

Нет, не логично. Приводя Integer к Long мы никогда не получим из отрицательного числа положительное, а приводя отрицательное к беззнаковому - получим ошибку. Это - логично. Но именно при шестнадцатеричной ЗАПИСИ эта логика нарушается, правильнее было бы делать эту запись по тем же законам, что и десятичная запись, включая дроби (а почему нет?).

Кто перемудрил? Разработчики VB?

Нет, задолго до них, кто конкретно - не интересовался.

[Хакер]

Но именно при шестнадцатеричной ЗАПИСИ эта логика нарушается, правильнее было бы делать эту запись по тем же законам, что и десятичная запись, включая дроби

Ты предлагаешь объявить все константы от &h80000000 до &hFFFFFFFF вне закона, а вместо них призвать использовать константы от –&h7FFFFFFF до –&hF1?

[Mikle]

Да, тогда у отрицательных чисел будет минус. А ещё неплохо было бы иметь такую запись:
&H3.5 = три целых пять шестнадцатых.

[Хакер]

Да, тогда у отрицательных чисел будет минус.

Теперь представь себе, каким адским трубом было бы передекларирование всех внешних констант на новый hex-лад? Но смысл hex-записи дробных чисел я вообще не уливливаю.

[Mikle]

Теперь представь себе, каким адским трубом было бы передекларирование всех внешних констант на новый hex-лад?

Естественно, ломать стандарты тяжело. Я просто заметил, что жаль, что так не сделали изначально.

Но смысл hex-записи дробных чисел я вообще не уливливаю.

Универсальность, единое правило записи числовых констант, в ЛЮБОЙ системе счисления, например так:
&(7)2.12 = две целых двенадцать сорок девятых.

[Qwertiy]

Кто перемудрил? Разработчики VB?
Тогда вот аналогичное на Си:

Не надо подгонять код под желаемый результат

А если так:

Код: Выделить всё

  puts(0x80000000LL==0x80000000 ? "yes" : "no");

Константа без суффикса имеет unsigned int, константа с суффиксом LL signed long long. Делается неявное приведение обеих к unsigned long long и получается true.

[iGrok]

А если так:

Код: Выделить всё

  puts(0x80000000LL==0x80000000 ? "yes" : "no");

Константа без суффикса имеет unsigned int, константа с суффиксом LL signed long long. Делается неявное приведение обеих к unsigned long long и получается true.

Эмм.. Это у тебя подгон под результат, а не у Хакера. У него взяты ТЕ ЖЕ типы, что и в варианте, который написан для VB, а у тебя - другие. Более "вместительные".

[Qwertiy]

Эмм.. Это у тебя подгон под результат, а не у Хакера. У него взяты ТЕ ЖЕ типы, что и в варианте, который написан для VB, а у тебя - другие. Более "вместительные".

Дело не в размерности, а в явном приведении. В варианте на VB есть одна шестнадцатеричная константа без указания типа и одна константа с указанием типа long. Мой код показывает тот же принцип - константа без метки типа и константа знакового типа большей размерности. В коде Хакера тип обеих констант явно приводится к знаковому перед сравнением.

Код: Выделить всё

  puts(0x80000000LL==0x80000000 ? "yes" : "no");
  puts((long long)0x80000000==(int)0x80000000 ? "yes" : "no");

Первый результат yes, а второй - no

Можно скомпилировать для long и int 16-разрядным компилятором
Суть в том, что шестнадцатеричные и восмеричные константы без суффиксов рассматриваются в Си как беззнаковые.

[Хакер]

Суть в том, что шестнадцатеричные и восмеричные константы без суффиксов рассматриваются в Си как беззнаковые.

О чём и речь:

У него взяты ТЕ ЖЕ типы, что и в варианте, который написан для VB, а у тебя - другие.

[Qwertiy]

Суть в том, что шестнадцатеричные и восмеричные константы без суффиксов рассматриваются в Си как беззнаковые.

О чём и речь:

У него взяты ТЕ ЖЕ типы, что и в варианте, который написан для VB, а у тебя - другие.

На мой взгляд, твоему варианту соответствует запись &H8000& = &H8000%, а не та, которая приведена в вопросе.

[Хакер]

% и так предполагается по умолчанию. Более того, если ты напишешь свой вариант, то среда насильно уберёт процентный TDC из твоей записи. Хотя, конечно, никто не запрещает тебе иметь свой взгляд.

[Qwertiy]

% и так предполагается по умолчанию

Вот в этом-то и заключается отличие VB от Си, которое ты спрятал, поставив явное приведение.

[Хакер]

Вот в этом-то и заключается отличие VB от Си, которое ты спрятал, поставив явное приведение.

В си тип int тоже предполагается по умолчанию. Никакого отличия.

[Qwertiy]

В си тип int тоже предполагается по умолчанию.

Нет, int по умолчанию только для десятичных констант. Для шестнадцатеричных и восьмеричных по умолчанию unsigned.