Целая и дробная часть Double
Правила форума
Темы, в которых будет сначала написано «что нужно сделать», а затем просьба «помогите», будут закрыты.
Читайте требования к создаваемым темам.
Темы, в которых будет сначала написано «что нужно сделать», а затем просьба «помогите», будут закрыты.
Читайте требования к создаваемым темам.
Сообщений: 3
• Страница 1 из 1
- Space
- Combo-маньяк
- Сообщения: 818
- Зарегистрирован: 11.01.2007 (Чт) 1:19
- Откуда: Украина
Целая и дробная часть Double
Space » 06.09.2008 (Сб) 11:03
Появилась необходимость узнать минимальный шаг, который может хранить Double при наличии целой части. Эксперементальным путём выяснил, при целой части=1 миншаг=10^-14. Начал увеличивать целую часть, миншаг стал тоже увеличиваться. Я так понимаю, биты в Double распределяются динамически под целую и дробную часть. И при сильно большой целой части для дробной места не остаётся. Как вычислить зависимость миншага от целой части, т.е. если известна максимальная целая часть, как узнать минимальную дробную часть, которую может хранить Double?
- Хакер
- Телепат
-
- Сообщения: 16478
- Зарегистрирован: 13.11.2005 (Вс) 2:43
- Откуда: Казахстан, Петропавловск
Re: Целая и дробная часть Double
Хакер » 06.09.2008 (Сб) 11:53
RTFM по числам с плавающей точкой.
Double вообще не хранит дробную и целую часть. Он хранит мантиссу и положение точки.
Double вообще не хранит дробную и целую часть. Он хранит мантиссу и положение точки.
—We separate their smiling faces from the rest of their body, Captain.
—That's right! We decapitate them.
—That's right! We decapitate them.
Сообщений: 3
• Страница 1 из 1
Кто сейчас на конференции
Сейчас этот форум просматривают: AhrefsBot и гости: 74