тип данных

[KIS]

Всем привет!
Есть насущный вопрос. Через форму пользователь вводит в ячейку некое число с тремя десятичными знаками, тип переменной определен как Single. При этом в ячейке отображается число с 14 десятичными знаками. Например, вводится 4,488, а в ячейке 4,48800679843251. Почему и как этого избежать. Please

[ism]

Много раз с этим сталкивался в делфях

Вроди-бы это из-за особенности хранения в памяти чисел с плавающей точкой
Число 4,488 храниться как 4488 * 10^(-3), попробуй тип Double

[GSerg]

Число 4.488 хранится совсем не так.
Ну ладно.

text1.text=format$(num,"0.000")

[KIS]

Спасибо
С форматом получилось убрать лишние цифры, но почему вместо 4,488 теперь выводится 4488?

[Ennor]

Замени во втором аргументе функции Format() точку на запятую.

[ism]

GSerg
Представление чисел с плавающей точкой

text1.text=format$(num,"0,000")

А сравнивать лутше так

Код: Выделить всё


if abs(abs(a)-asb(b))<0.0001 then msgbox "Числа равны"


[GSerg]

"0,000"

Протестую.
В строке формата точка - десятичный разделитель, запятая - разделитель тысяч. См. MSDN.
У меня корректно работает именно с точкой.


ism
Настоящее представление чисел с плавающей точкой

[vvs_adm]

GSerg А разве не Пуск -> Настройка -> Панель управления -> язык и стандарты -> Разделитель целой и дробной части и т.д.

[ism]

Могу предположить, зависит от региональных стандартов в системе.
Как и с Екселем одна версия на разных компьютерах работает поразному.
Способов борьбы незнаю.

[GSerg]

Нет.
Строка формата не зависит от национальных настроек. наоборот, она придумана именно для того, чтобы поддерживать их. Если в строке формата стоит точка, то эта точка будет заменена на текущий национальный десятичный разделитель. Но в самой строке формата должна быть только точка.

[uhm]

if abs(abs(a)-asb(b))<0.0001 then msgbox "Числа равны"

Внутренние abs'ы абсолютно лишние (попробуй сравнить 1 и -1).

[uhm]

GSerg, я уже много раз сталкивался с глюками функций, форматирующих строки и числа, так что, вполне возможно, что у кого-то действительно нужно ставить ",". У меня, впрочем, все работает именно с точкой, хотя разделитель в региональных стандартах - запятая.

[KIS]

По ходу дела выяснилась еще одна подробность. Если ставить "0.00", то все в порядке, число отображается как и должно (4,49), но стоит поставить "0.000" появляются тысячи (4488). И в чем собака порылась я понять не могу. Может кто-нибудь подскажет, а

[GSerg]

Побольше кода приведи.

[KIS]

Код достаточно длинный, но суть в следующем

Private Sub SF()
Dim x As Single
x = InputBox("Введите х")
Cells(1, 1).Value = Format$(x, "0.000")
End Sub

Вроде все просто, но что-то не так, а что, я никак не пойму

[uhm]

Вот они и глюки пошли!!!
Тут, похоже, происходит несколько преобразований.
Сначала Format$ переводит число 4,4 в строку вида 4,400. Потом это значение вставляется в ячейку, НО эксель почему-то воспринимает "," не как разделитель разрядов, а как разделитель тысяч, в результате в ячейке получается 4400. У меня заработало так:

Код: Выделить всё

Cells(1,1).Value = Replace(Format$(x, "0.000"), ",", ".")


но я, наученный горьким опытом, опасаюсь утверждать, что оно так будет работать у всех.

[GSerg]

Мда.
"Введите x"

Мда.

Во-первых, вводится строка, а не число.
Во-вторых, неизвестно, будет ли вводить пользователь в качестве десятичной точки точку, запятую, или ещё что. Поэтому нужно в приглашении для ввода написать, что именно ожидается в качестве разделителя. Потому что в общем случае сказать этого нельзя.
В-третьих, присваивать ячейке экселя нужно, не строку, а число, а потом наложить на ячейку nuberformat="0.000"

[Andrey Fedorov]

Во-вторых, неизвестно, будет ли вводить пользователь в качестве десятичной точки точку, запятую, или ещё что.

А я просто заменяю одно на другое (в зависимости от локали пользователя) - как результат всегда вводят правильно.

[GSerg]

А если пользователь введёт не точку и не запятую?

[Andrey Fedorov]

А если пользователь введёт не точку и не запятую?

Сюда посмотри - вызывается при KeyPress:

Код: Выделить всё

Select Case FieldType
        ' Контроль ввода целочисленных полей
        Case adInteger, adSmallInt, adUnsignedTinyInt
            Select Case KeyAscii
                Case 48 To 57, Is < 32
                Case 45: If FieldType = adUnsignedTinyInt Then KeyAscii = 0
                Case Else: KeyAscii = 0
            End Select
        ' Контроль ввода полей с плавающей запятой
        Case adCurrency, adDouble, adSingle, adNumeric
            Select Case KeyAscii
                Case 44, 46: KeyAscii = g_iDecR
                Case 45, 48 To 57, Is < 32
                Case Else: KeyAscii = 0
            End Select
        ' Контроль ввода полей даты/времени
        Case adDate, adDBTimeStamp
            Select Case KeyAscii
                Case 44 To 47: KeyAscii = g_iDateR   ' .,/  ->  .
                Case 58, 59: KeyAscii = g_iTimeR   ' ;:   ->  :
                Case 48 To 57, Is <= 32
                Case Else: KeyAscii = 0
            End Select
    End Select

Пользователь может, конечно, скопировать билеберду через буфер обмена, но тут я решил не заморачиваться - просто ругнусь при валидации.

[SeT]

round(x,y) округляет число с заданной точностью

[KIS]

УРА!!!
REPLACE КАЖЕТСЯ СРАБОТАЛО. НАДЕЮСЬ НА ЭТОМ МОИ МУЧЕНИЯ ПО ДАННОЙ ТЕМЕ И В ДАННОМ СЛУЧАЕ ЗАКОНЧАТСЯ.
ВСЕМ СПАСИБО