Конференция VBStreets

**Calvin** » 14.11.2012 (Ср) 11:55

Добрый день. Есть проблема.Имеются числовые значения в ячейках

A1 = 69.59
A2 = 65.32

если в ячеке A3 поставить формулу A1-A2 , то полученное значение будет равно 4,27000000000001. Как это побороть? (что за миллиардные доли?)

**iGrok** » 14.11.2012 (Ср) 13:42

Побороть округлением до нужного кол-ва знаков.
Про то, что это за миллиардные доли читать тут: http://www.yur.ru/science/computer/IEEE754.htm

**Calvin** » 14.11.2012 (Ср) 14:16

просто не хотел ломать структуру имеющихся формул.....а так - большое спасибо за информацию...

**Sam777e** » 14.11.2012 (Ср) 15:11

"Ломать" можно / нужно решайте сами, в зависимости от того, что вам надо : точность или внешний вид [ ехать или шашечки ;-)

] не

Calvin писал(а):структуру имеющихся формул

а формат ячеек . . . такие картинки знаете? монеток больше / монеток меньше . . .

Склонен полагать, что вам требуется именно внешний вид, т.е., округление - как и было сказано выше.

**Calvin** » 14.11.2012 (Ср) 15:39

Я эти заманухи с форматами знаю, но если в книге excel, представляющей собой базу данных, линейно (построчно) рассчитывается остаток, то когда он должен быть ноль, то там число в экспоненциальном виде отображается, несмотря на то, что там формат ячейки "#,##0.000". Так что тут по-любому округлять надо. Понятное дело, что визуальное содержимое ячейки, не есть реальное....можно любую "маску" наложить.....вообщем благодарю за дискуссию...

**Qwertiy** » 14.11.2012 (Ср) 20:20

Calvin писал(а):то там число в экспоненциальном виде отображается

Значит, скорее всего, ты неверно настроил формат...

**Sam777e** » 15.11.2012 (Чт) 0:49

to Calvin

Qwertiy писал(а):Значит, скорее всего, ты неверно настроил формат...

и, скорее всего, он прав.

Пожалуйста, ма-а-а-ленькую книгу - пример Excel' я - в студию !

**alibek** » 23.11.2012 (Пт) 16:42

Calvin писал(а):Я эти заманухи с форматами знаю, но если в книге excel, представляющей собой базу данных, линейно (построчно) рассчитывается остаток, то когда он должен быть ноль, то там число в экспоненциальном виде отображается, несмотря на то, что там формат ячейки "#,##0.000". Так что тут по-любому округлять надо. Понятное дело, что визуальное содержимое ячейки, не есть реальное....можно любую "маску" наложить.....вообщем благодарю за дискуссию...

Не нужно использовать Excel для таких задач.
А если используешь, то нужно включать опцию "Точность как на экране".

Конференция VBStreets

Погрешность при расчете результата в формуле

Погрешность при расчете результата в формуле

Re: Погрешность при расчете результата в формуле

Re: Погрешность при расчете результата в формуле

Re: Погрешность при расчете результата в формуле

Re: Погрешность при расчете результата в формуле

Re: Погрешность при расчете результата в формуле

Re: Погрешность при расчете результата в формуле

Кто сейчас на конференции