Segnetics

Вернуться   Segnetics > Форум Segnetics > SMLogix

SMLogix Вопросы о работе в среде SMLogix и о FBD-программировании

Ответ
 
Опции темы Поиск в этой теме
Старый 03.07.2013, 15:50   #1
WhiteM
Новичок
 
Регистрация: Jun 2007
Адрес: Рязань
Сообщения: 29
Благодарил(а): 0 раз(а)
Поблагодарили: 0 раз(а) в 0 сообщениях
По умолчанию Точность вычислений real

Если сложить 1234567890987654321 и 5 с помошью "ADD(real)" то действительно ли я получу на выходе 1234567890987654326?
Результаты сложения, вычитания, умножения и деления чисел real правильные полностью или до какого-то разряда, а остальное отбрасывается (за границы диапазона real не выходим, но рядом)?
Кажется когда-то давно был такой вопрос, но поиск по форуму ничего не дал


__________________
fjohn@inbox.ru
WhiteM вне форума   Ответить с цитированием
Старый 03.07.2013, 16:12   #2
Arsie
Сотрудник Segnetics
 
Аватара для Arsie
 
Регистрация: Jan 2006
Адрес: Russia, SPb
Сообщения: 18 115
Благодарил(а): 15 раз(а)
Поблагодарили: 660 раз(а) в 604 сообщениях
По умолчанию Ответ: Точность вычислений real

Цитата:
Сообщение от WhiteM Посмотреть сообщение
Если сложить 1234567890987654321 и 5 с помошью "ADD(real)" то действительно ли я получу на выходе 1234567890987654326?
Результаты сложения, вычитания, умножения и деления чисел real правильные полностью или до какого-то разряда, а остальное отбрасывается (за границы диапазона real не выходим, но рядом)?
Кажется когда-то давно был такой вопрос, но поиск по форуму ничего не дал
8 знаков на мантиссу. Это означает, что оба указанных вами больших числа попросту будут равны одно другому, т.к. будут представлены как 1.2345679*10 в 18 степени. И всё, что дальше семёрки, будет округлено.

Велкам ту мануал: http://en.wikipedia.org/wiki/IEEE_754


__________________
Программа делает то что написал программист, а не то что он хотел.

Добро всегда побеждает зло. Кто победил - тот и добрый.
Arsie вне форума   Ответить с цитированием
Старый 03.07.2013, 16:18   #3
WhiteM
Новичок
 
Регистрация: Jun 2007
Адрес: Рязань
Сообщения: 29
Благодарил(а): 0 раз(а)
Поблагодарили: 0 раз(а) в 0 сообщениях
По умолчанию Ответ: Точность вычислений real

Цитата:
Сообщение от Arsie Посмотреть сообщение
8 знаков на мантиссу. Это означает, что оба указанных вами больших числа попросту будут равны одно другому, т.к. будут представлены как 1.2345679*10 в 18 степени. И всё, что дальше семёрки, будет округлено.
Спасибо


__________________
fjohn@inbox.ru
WhiteM вне форума   Ответить с цитированием
Ответ


Ваши права в разделе
Вы не можете создавать темы
Вы не можете отвечать на сообщения
Вы не можете прикреплять файлы
Вы не можете редактировать свои сообщения

BB code is Вкл.
[IMG] код Вкл.
HTML код Выкл.



Часовой пояс GMT +4, время: 22:56.


Версия vBulletin: 3.8.7
Copyright ©2000 - 2024, Jelsoft Enterprises Ltd.
Segnetics 2005 - 2024