Как заюзать Decimal?

Программирование на Visual Basic, главный форум. Обсуждение тем программирования на VB 1—6.
Даже если вы плохо разбираетесь в VB и программировании вообще — тут вам помогут. В разумных пределах, конечно.
Правила форума
Темы, в которых будет сначала написано «что нужно сделать», а затем просьба «помогите», будут закрыты.
Читайте требования к создаваемым темам.
0xy
Бывалый
Бывалый
 
Сообщения: 223
Зарегистрирован: 14.06.2006 (Ср) 2:34

Как заюзать Decimal?

Сообщение 0xy » 05.02.2010 (Пт) 7:21

Decimal +/-79 228 162 514 264 337 593 543 950 335 без масштабирования, т.е. для чисел без дробной части. Диапазон чисел с 28 знаками в дробной части
+/-7,9228162514264337593543950335. Минимальное ненулевое число 0,0000000000000000000000000001.

Однако на практике все не так просто :(
Если написать:
Код: Выделить всё
Dim a
a=1234567890123456789012345678
' или
a=cdec(1234567890123456789012345678)

то VB тут же исправит по-своему, и получим:
Код: Выделить всё
a=1.23456789012346E+27
a=cdec(1.23456789012346E+27)

В последнем случае даже успешно получаем подтип Decimal :D Только толку с того! :x

alibek
Большой Человек
Большой Человек
 
Сообщения: 14205
Зарегистрирован: 19.04.2002 (Пт) 11:40
Откуда: Russia

Re: Как заюзать Decimal?

Сообщение alibek » 05.02.2010 (Пт) 9:49

Храни числа в строках или в вариантах.
Lasciate ogni speranza, voi ch'entrate.

Andrey Fedorov
Член-корреспондент академии VBStreets
Член-корреспондент академии VBStreets
 
Сообщения: 3287
Зарегистрирован: 21.05.2004 (Пт) 9:28
Откуда: Москва

Re: Как заюзать Decimal?

Сообщение Andrey Fedorov » 05.02.2010 (Пт) 10:55

alibek писал(а):Храни числа в строках или в вариантах.


А у него они и хранятся в варианте. Просто присваивать в его случае надо так:

Код: Выделить всё
    Dim i1, i2, i3
   
    i1 = CDec("1234567890123456789012345678,2")
   
    i2 = i1 * 3
   
    i3 = i2 - i1 - i1
   
    Debug.Print
    Debug.Print "i1 = " & i1
    Debug.Print "i2 = " & i2
    Debug.Print "i3 = " & i3


Результат:

i1 = 1234567890123456789012345678,2
i2 = 3703703670370370367037037034,6
i3 = 1234567890123456789012345678,2
Фиг Вам! - Сказал Чебурашка, обгладывая Крокодила Гену...


Вернуться в Visual Basic 1–6

Кто сейчас на конференции

Сейчас этот форум просматривают: AhrefsBot и гости: 50

    TopList