Преобразование CSng()

[jetcom]

При преобразовании, к примеру, строкового значения "0,3" к вышеуказанному типу, получаем: "0,300000011920929".
Можно, конечно, в Excel через Сервис-Параметры-Вычисления поставить птицу "Точность, как на экране", но кривовато это.
Как грамотно избавиться от этой бяки, и откуда она берётся?

[corgi]

странно у меня вроде все нормально
ps попробуй CDbl()

[alibek]

И у меня нормально...
Попробуй округление, примерно так:

Код: Выделить всё

Dim IP as Integer, I as Integer, V as Single, Z as String
Z="0.3"
V=CSng(Z)
Z=Trim$(Str$(V))
IP=InStr(Z,".") 'позиция десятичной точки
If IP>0 Then
  I=InStr(IP+1,Z,"000") 'есть ли после десятичной точки больше двух нулей подряд
  If I>0 Then
    V=Round(V,I-IP) 'если да, то отбросить округлить
  End If
End If


corgi, классная у тебя подпись

[jetcom]

2corgi: Спасибо! Я не поверил своим глазам, но CDbl() действительно помогло!
Знать бы еще, почему CSng() в моем случае оказлось кривым, ведь я ему так часто верил!
2alibek: Аналогичное спасибо, это тоже вариант, но, сам понимаешь, выбор всегда падает на более простое решение проблемы!...

[GSerg]

Знать бы еще, почему CSng() в моем случае оказлось кривым, ведь я ему так часто верил!

Когда читал я в мануале, что последние две-три цифры Single и Double не являются точными. Соответственно, поскольку цифр у Double больше, то и точность выше. Наверняка ошибка возникает и там, просто она настолько мала, что игнорируется.

[corgi]

что single что и double хранятся в виде числа и степени в которую это дело надо возвести поэтому ошибки будут всегда. И эти типы данных никода не равны нулю, т.к. существуют погрешности но по идее для single она должна быть равна где-то Е-45 и и поэтому не должна влиять на конечное значение почему она у тебя оказалась Е-7 это действительно вопрос интересный

[jetcom]

2corgi: Посмотри, может у тебя стояла птица "Точность как на экране", поэтому ничего не проявилось. Но, как ни странно, а это факт! После ваших пояснений хоть понятно, из-за чего эта бяка появлялась...

[corgi]

да действительно если вывести на экра с максимальной точностью то появляется эта байда Отсюда делаем вывод что пользоваться single не следует и нет проблем