Разный результат в PB и VB

Раздел посвящен программированию с использованием Power Basic.
jangle
Википедик
Википедик
Аватара пользователя
 
Сообщения: 3013
Зарегистрирован: 03.06.2005 (Пт) 12:02
Откуда: Нидерланды

Разный результат в PB и VB

Сообщение jangle » 27.03.2012 (Вт) 21:19

Почему разный результат деления в VB и PB?

Код: Выделить всё
Dim x As Single
Dim y As Single
x=0.12345
y=0.22231
MsgBox Str$(x/y)


Результат:
Код: Выделить всё
VB6 -            .5553057
PowerBASIC -     .5553056

Qwertiy
Доктор VB наук
Доктор VB наук
 
Сообщения: 2753
Зарегистрирован: 26.06.2011 (Вс) 21:26

Сообщение Qwertiy » 27.03.2012 (Вт) 21:58

Ну что у всех за привычка выполнять вычисления в Single?

Димитрий
Продвинутый пользователь
Продвинутый пользователь
 
Сообщения: 194
Зарегистрирован: 26.01.2005 (Ср) 22:47
Откуда: Волгоград

Re: Разный результат в PB и VB

Сообщение Димитрий » 28.03.2012 (Ср) 9:42

0.5553056 5426656470694075840043183 - calc
0.5553056 54266565 - excel ячейка
0.5553056 53767565 - PB10 as DOUBLE
:!: :?:

jangle
Википедик
Википедик
Аватара пользователя
 
Сообщения: 3013
Зарегистрирован: 03.06.2005 (Пт) 12:02
Откуда: Нидерланды

Re:

Сообщение jangle » 28.03.2012 (Ср) 10:20

Qwertiy писал(а):Ну что у всех за привычка выполнять вычисления в Single?


Потому что мне нужен тип Single. И мне непонятно, почему два компилятора, вроде как поддерживающие IEEE 754 на одном типе данных выдают разный результат. Кто из них врет?

Qwertiy
Доктор VB наук
Доктор VB наук
 
Сообщения: 2753
Зарегистрирован: 26.06.2011 (Вс) 21:26

Сообщение Qwertiy » 28.03.2012 (Ср) 10:28

1. Возможно, округление при выводе. Используй Format$, чтобы получить больше знаков.
2. Си вообще все вычисления делает в double, а потом приводит во float при необходимости.

iGrok
Артефакт VBStreets
Артефакт VBStreets
 
Сообщения: 4272
Зарегистрирован: 10.05.2007 (Чт) 16:11
Откуда: Сетевое сознание

Re: Разный результат в PB и VB

Сообщение iGrok » 28.03.2012 (Ср) 12:08

label:
cli
jmp label


Вернуться в Power Basic

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и гости: 17

    TopList