Как сохранить точность вычислений?

Программирование на Visual Basic, главный форум. Обсуждение тем программирования на VB 1—6.
Даже если вы плохо разбираетесь в VB и программировании вообще — тут вам помогут. В разумных пределах, конечно.
Правила форума
Темы, в которых будет сначала написано «что нужно сделать», а затем просьба «помогите», будут закрыты.
Читайте требования к создаваемым темам.
Artur KakTus
Обычный пользователь
Обычный пользователь
 
Сообщения: 51
Зарегистрирован: 19.02.2004 (Чт) 12:00
Откуда: Ukraine

Как сохранить точность вычислений?

Сообщение Artur KakTus » 20.02.2004 (Пт) 10:26

Подскажите пожалуйста как можно в VBA округлять значение переменной не теряя при этом точности данных (например если значение вычисляется из ячеек эксель где после запятой очень много знаков и на форме эта переменная выглядит хреново из-за большого числа после запятой. Хотя конечно же в эксель представление нормальное, т.к там ты сам выставляешь количество разрядов ) . Может маска нужна. Если кто-то сталкивался с таким прошу научить. :?:
Спасибо за помощь.
Artur KakTus

RayShade
Scarmarked
Scarmarked
Аватара пользователя
 
Сообщения: 5511
Зарегистрирован: 02.12.2002 (Пн) 17:11
Откуда: Russia, Saint-Petersburg

Сообщение RayShade » 20.02.2004 (Пт) 11:48

Никак. Смысл вопроса противологичен. При округлении теряется точность. Другое дело, что округлять можно не саму переменную, а ее копию, которая будет отображаться. То есть делать не так:

Код: Выделить всё
dim x as double
x= 3.1415926538
x=round(x)
text1.text =cstr(x)

а так:
Код: Выделить всё
dim x as double
x= 3.1415926538
text1.text =cstr(round(x))

Artur KakTus
Обычный пользователь
Обычный пользователь
 
Сообщения: 51
Зарегистрирован: 19.02.2004 (Чт) 12:00
Откуда: Ukraine

Сообщение Artur KakTus » 20.02.2004 (Пт) 11:57

Ты прав, вопрос кривой, мне нужно именно изменить представление этой переменной на форме, для нормального восприятия числа.
Спасибо за помощь, уже пробую переделать по твоему совету, думаю поможет :lol:
Artur KakTus


Вернуться в Visual Basic 1–6

Кто сейчас на конференции

Сейчас этот форум просматривают: AhrefsBot и гости: 19

    TopList