Проблемы FIX() и INT()

Программирование на Visual Basic, главный форум. Обсуждение тем программирования на VB 1—6.
Даже если вы плохо разбираетесь в VB и программировании вообще — тут вам помогут. В разумных пределах, конечно.
Правила форума
Темы, в которых будет сначала написано «что нужно сделать», а затем просьба «помогите», будут закрыты.
Читайте требования к создаваемым темам.
djalex777
Постоялец
Постоялец
 
Сообщения: 461
Зарегистрирован: 23.03.2006 (Чт) 16:02

Проблемы FIX() и INT()

Сообщение djalex777 » 02.07.2009 (Чт) 22:38

Столкнулся с проблемой. Причем совершенно случайно - вывожу в таблицу числа, перед выводом форматирую их функцией Int или Fix в зависимости от требований. И вот сегодня я решил проверить, а правильно ли конвертируются исходные числа в табличные. И наткнулся на следующее:
Пример:
Код: Выделить всё
dim s as single
s = 10.4

debug.print Int(s)
debug.print Fix(s)

s = 10.9

debug.print Int(s)
debug.print Fix(s)


Результат: все четыре строки 10. Откуда может происходить такая ошибка и как её убрать? Неужели проблемы с процессором ...

iGrok
Артефакт VBStreets
Артефакт VBStreets
 
Сообщения: 4272
Зарегистрирован: 10.05.2007 (Чт) 16:11
Откуда: Сетевое сознание

Re: Проблемы FIX() и INT()

Сообщение iGrok » 02.07.2009 (Чт) 22:47

djalex777 писал(а):Результат: все четыре строки 10. Откуда может происходить такая ошибка и как её убрать? Неужели проблемы с процессором ...

Ну да. 10. А что по-твоему должно быть?

Может быть, тебя интересует не Fix, а Round?

djalex777
Постоялец
Постоялец
 
Сообщения: 461
Зарегистрирован: 23.03.2006 (Чт) 16:02

Re: Проблемы FIX() и INT()

Сообщение djalex777 » 02.07.2009 (Чт) 22:55

Да, спасибо. Он и нужен. Почитал... Неправильно использовал функции!


Вернуться в Visual Basic 1–6

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и гости: 98

    TopList