Программирование на Visual Basic, главный форум. Обсуждение тем программирования на VB 1—6.
Даже если вы плохо разбираетесь в VB и программировании вообще — тут вам помогут. В разумных пределах, конечно.
Правила форума
Темы, в которых будет сначала написано «что нужно сделать», а затем просьба «помогите», будут
закрыты.
Читайте
требования к создаваемым темам.
-
djalex777
-
- Постоялец
-
-
- Сообщения: 461
- Зарегистрирован: 23.03.2006 (Чт) 16:02
-
djalex777 » 02.07.2009 (Чт) 22:38
Столкнулся с проблемой. Причем совершенно случайно - вывожу в таблицу числа, перед выводом форматирую их функцией Int или Fix в зависимости от требований. И вот сегодня я решил проверить, а правильно ли конвертируются исходные числа в табличные. И наткнулся на следующее:
Пример:
- Код: Выделить всё
dim s as single
s = 10.4
debug.print Int(s)
debug.print Fix(s)
s = 10.9
debug.print Int(s)
debug.print Fix(s)
Результат: все четыре строки 10. Откуда может происходить такая ошибка и как её убрать? Неужели проблемы с процессором ...
-
iGrok
-
- Артефакт VBStreets
-
-
- Сообщения: 4272
- Зарегистрирован: 10.05.2007 (Чт) 16:11
- Откуда: Сетевое сознание
iGrok » 02.07.2009 (Чт) 22:47
djalex777 писал(а):Результат: все четыре строки 10. Откуда может происходить такая ошибка и как её убрать? Неужели проблемы с процессором ...
Ну да. 10. А что по-твоему должно быть?
Может быть, тебя интересует не Fix, а Round?
-
djalex777
-
- Постоялец
-
-
- Сообщения: 461
- Зарегистрирован: 23.03.2006 (Чт) 16:02
-
djalex777 » 02.07.2009 (Чт) 22:55
Да, спасибо. Он и нужен. Почитал... Неправильно использовал функции!
Вернуться в Visual Basic 1–6
Кто сейчас на конференции
Сейчас этот форум просматривают: AhrefsBot, Mail.ru [бот], Yandex-бот и гости: 90