MsgBox Fix(0.3 * 1000)

[Nicky]

Может кто объяснить subj?

[RayShade]

RTFM

Int, Fix Functions

Returns the integer portion of a number.

Syntax

Int(number)

Fix(number)

The required number argument is a Double or any valid numeric expression. If number contains Null, Null is returned.

Remarks

Both Int and Fix remove the fractional part of number and return the resulting integer value.

The difference between Int and Fix is that if number is negative, Int returns the first negative integer less than or equal to number, whereas Fix returns the first negative integer greater than or equal to number. For example, Int converts -8.4 to -9, and Fix converts -8.4 to -8.

Fix(number) is equivalent to:

Sgn(number) * Int(Abs(number))

[alibek]

Может кто объяснить subj?

Что именно? Что 0.3 -- это бесконечная дробь в двоичной системе?

[Nicky]

Какая здесь, по-твоему, целая часть числа? Ты согласен с 299?

[alibek]

Целая часть какого числа?
Ты напиши это число в двоичном представлении, многие вопросы исчезнут.

[RayShade]

У меня пишет 300 Так что проблем не вижу.

[alibek]

Так у тебя наверное атлон.

[Nicky]

2alibek
Ну вот, два различных результата! Не думаю, что у RayShade троичный компьютер

[RayShade]

alibek

Дома Атлон. А я с работы пишу. Тут вполне обычный Р4

[Nicky]

Код: Выделить всё

MsgBox Fix(Round(0.3 * 1000))

Все равно, странно все это...

[alibek]

А не пробовал Fix(CInt(0.3 * 1000))?

[Nicky]

Тоже гут

[Andrey Fedorov]

Все равно, странно все это...

Может пояснишь что странно, а то я так и не въеду

[Konst_One]

Код: Выделить всё

MsgBox Fix(csng(0.3 * 1000))

тебе наверное нужно так

[Andrey Fedorov]

А, понял что имелось в виду:

Код: Выделить всё

? (0.3 * 1000)
300
? Fix(0.3 * 1000)
299
? CDbl(0.3 * 1000)
300
? Fix(CDbl(0.3 * 1000))
300


[Nicky]

Может пояснишь что странно, а то я так и не въеду

Получается, что на утверждение 0.3 * 10 = 3 полагаться нельзя?

[Andrey Fedorov]

Получается, что на утверждение 0.3 * 10 = 3 полагаться нельзя?

Так же как и во всех остальных языках программирования, впрочем.
Работа с плавающими числами везде одинакова.

[alibek]

Получается, что на утверждение 0.3 * 10 = 3 полагаться нельзя?

Получается, что на утверждение 1/3 = 0.33 полагаться нельзя?

[Nicky]

Спасибо всем! Понял, что нужно освежить в памяти двоичное представление. Закрываем!

[hCORe]

Интересная подробность: на Пентиуме 4 в IDE пишет 299, в скомпилированном виде 300. Фантастика

[Amed]

Какие оптимизации компилирования поставлены?

[hCORe]

Optimize for Fast Code. Никаких Advanced Optimizations.

[AjaxVS]

Дурдом!!!

У меня с этим "MsgBox Fix(0.3 * 1000)" счас крышу снесет. Второй день исследую +_+

VB6. ADM Duron 650. WinXP Pro. SP.. хз +_+
1. Создаю обычный проект. В коде формы пишу:

Код: Выделить всё

Private Sub Form_Load()
MsgBox Fix(0.3 * 1000)
End Sub


2. Запускаю по F5. Пишет 300.
3. Закрываю форму. Запускаю прогу опять. Пишет 299!!!!
4. Закрываю VB.
5. Проделываю пункты 1-4.
Результаты - наоборот: сначала 299, потом - 300!

И так - все время!

Что это такое?? Объясните, пожалуйста, "научно-популярно". Я уже боюсь теперь на VB что-то коммерческое писать +_+

[alibek]

http://bbs.vbstreets.ru/viewtopic.php?p=6597790#6597790

[AjaxVS]

Ну и причем тут это?
Я хотел бы прочесть ответ на вопрос - возможно ли предугадать, какое число появится в следующий раз в качестве ответа? И нормально ли, что с виду обычная функция VB напоминает Rnd? +_+

[--=GAMER=--]

Athlon 64 - без кмпиляции - 299 - с компиляцией - 300

мистика

[GSerg]

А уточняй числа.
0.3! * 1000

[_Step_]

Вот так всё норм!
MsgBox (Fix(0.3! * 1000))

[alibek]

Я хотел бы прочесть ответ на вопрос - возможно ли предугадать, какое число появится в следующий раз в качестве ответа? И нормально ли, что с виду обычная функция VB напоминает Rnd? +_+

Просто надо правильно работать с числами с плавающей запятой.
Не If A = B, а If (A - B) < e

[CodeName33]

А у меня

MsgBox Fix(0.3 * 1000)

При первом запуске программы пишет 300, а при последующих 299. После закрытия VB и открытия снова, опять при первом запуске 300, а потом 299...