Аццкий Abs

[Nicky]

Код: Выделить всё

Private Sub Form_Load()
  Debug.Print Int(Abs(132.1 * (-5 / 100)) * 100 + 0.5) / 100
  Debug.Print Int(myAbs(132.1 * (-5 / 100)) * 100 + 0.5) / 100
End Sub

'мой вариант выхода из положения
Function myAbs(f)
  myAbs = f * IIf(f < 0, -1, 1)
End Function

Вот такая подстава
Кто-то еще наступал на эти грабли?

[Viper]

посмотри вот эти варианты:

Код: Выделить всё

Debug.Print Int(CDbl(Abs(132.1 * (-5 / 100))) * 100# + 0.5) / 100
Debug.Print Int(CDbl(myAbs(132.1 * (-5 / 100))) * 100# + 0.5) / 100

[Nicky]

посмотри вот эти варианты:

Код: Выделить всё

Debug.Print Int(CDbl(Abs(132.1 * (-5 / 100))) * 100# + 0.5) / 100
Debug.Print Int(CDbl(myAbs(132.1 * (-5 / 100))) * 100# + 0.5) / 100

Неправильные ответы. Правильный вот этот
Debug.Print Int(myAbs(132.1 * (-5 / 100)) * 100 + 0.5) / 100

[alibek]

А в чем вопрос?

[NashRus]

а в чем грабли ?

так вообще одинаково дает:

Debug.Print CInt(Abs(132.1 * (-5 / 100)) * 100 + 0.5) / 100
Debug.Print Int(myAbs(132.1 * (-5 / 100)) * 100 + 0.5) / 100

а так писать:

Function myAbs(f)

ваЩе не надо.

[Viper]

А такая последовательность не пойдет?

Код: Выделить всё

Debug.Print Abs(Int(132.1 * -5 / 100 * 100) + 0.5)
Debug.Print myAbs(Int(132.1 * -5 / 100 * 100) + 0.5)

З.Ы. что-то я не совсем пойму что хочет автор? Где логика в расстановке скобок и использования функций Abs и Int?

[Nicky]

А в чем вопрос?

Вопрос в том, почему Print'ы в первом посте дают разные ответы? (правильный-второй)

а в чем грабли ?

так вообще одинаково дает:

Debug.Print CInt(Abs(132.1 * (-5 / 100)) * 100 + 0.5) / 100
Debug.Print Int(myAbs(132.1 * (-5 / 100)) * 100 + 0.5) / 100

Упс! CInt прокатила, хотя она округляет фракцию, а мне этого не надо

а так писать:

Function myAbs(f)

ваЩе не надо.

Интересно, почему?

А такая последовательность не пойдет?

Код: Выделить всё

Debug.Print Abs(Int(132.1 * -5 / 100 * 100) + 0.5)
Debug.Print myAbs(Int(132.1 * -5 / 100 * 100) + 0.5)

З.Ы. что-то я не совсем пойму что хочет автор? Где логика в расстановке скобок и использования функций Abs и Int?

Нет, не пойдет, совсем не по теме
Я хочу высчитать скидку по чеку. Сумма чека 132.10, скидка 5%, какова сумма скидки?

[Viper]

Ужос.... А 132.10 умножить на 0.05 религия не позволяет

Код: Выделить всё

Debug.Print 132.1*0.05

И если уж сосвсем точно, то

Код: Выделить всё

Debug.Print Format$(132.1 * 0.05, "0.00")

[Nicky]

Ужос.... А 132.10 умножить на 0.05 религия не позволяет

Код: Выделить всё

Debug.Print 132.1*0.05

И если уж сосвсем точно, то

Код: Выделить всё

Debug.Print Format$(132.1 * 0.05, "0.00")

Постыдил, да?
И все-таки, почему Print'ы в первом посте дают разные ответы?

[alibek]

Потому что не надо работать с плавающей запятой, как с целым числом.

[Viper]

Резюме вышесказанного: для финансовых вычислений есть специальный тип Currency, который и необходимо юзать в данном случае. Кстати достаточно недавно это вопрос уже всплывал.

[Nicky]

Всем спасибо!
Некий туман остался, но Format рулит

[alibek]

Никакого тумана.
Просто всегда помни, что 661# это не 661. Это 661±e, где e близко к 0, но не обязательно равно ему. Если e будет -0.000000000000001, то Int как раз и даст тот результат, который у тебя получился.

[alzasr]

А можете объяснить почему? Из сказанного выше я понимаю, что
Dim a as Double, b as Long
a = 611
b = 611

то может случиться (при условии, что с переменными других действий не выполняли), что a<>b? Или только Int(a)<>b?

[alibek]

Теоретически может.
Числа с плавающей запятой (Single, Double) вообще нельзя сравнивать на равенство.