Segnetics

Вернуться   Segnetics > Форум Segnetics > SMLogix

SMLogix Вопросы о работе в среде SMLogix и о FBD-программировании

Ответ
 
Опции темы Поиск в этой теме Опции просмотра
Старый 03.07.2013, 15:50   #1
WhiteM
Новичок
 
Регистрация: Jun 2007
Адрес: Рязань
Сообщения: 29
Благодарил(а): 0 раз(а)
Поблагодарили: 0 раз(а) в 0 сообщениях
По умолчанию Точность вычислений real

Если сложить 1234567890987654321 и 5 с помошью "ADD(real)" то действительно ли я получу на выходе 1234567890987654326?
Результаты сложения, вычитания, умножения и деления чисел real правильные полностью или до какого-то разряда, а остальное отбрасывается (за границы диапазона real не выходим, но рядом)?
Кажется когда-то давно был такой вопрос, но поиск по форуму ничего не дал


__________________
fjohn@inbox.ru
WhiteM вне форума   Ответить с цитированием
Старый 03.07.2013, 16:12   #2
Arsie
Сотрудник Segnetics
 
Аватара для Arsie
 
Регистрация: Jan 2006
Адрес: Russia, SPb
Сообщения: 18 024
Благодарил(а): 15 раз(а)
Поблагодарили: 655 раз(а) в 599 сообщениях
По умолчанию Ответ: Точность вычислений real

Цитата:
Сообщение от WhiteM Посмотреть сообщение
Если сложить 1234567890987654321 и 5 с помошью "ADD(real)" то действительно ли я получу на выходе 1234567890987654326?
Результаты сложения, вычитания, умножения и деления чисел real правильные полностью или до какого-то разряда, а остальное отбрасывается (за границы диапазона real не выходим, но рядом)?
Кажется когда-то давно был такой вопрос, но поиск по форуму ничего не дал
8 знаков на мантиссу. Это означает, что оба указанных вами больших числа попросту будут равны одно другому, т.к. будут представлены как 1.2345679*10 в 18 степени. И всё, что дальше семёрки, будет округлено.

Велкам ту мануал: http://en.wikipedia.org/wiki/IEEE_754


__________________
Программа делает то что написал программист, а не то что он хотел.

Добро всегда побеждает зло. Кто победил - тот и добрый.
Arsie сейчас на форуме   Ответить с цитированием
Старый 03.07.2013, 16:18   #3
WhiteM
Новичок
 
Регистрация: Jun 2007
Адрес: Рязань
Сообщения: 29
Благодарил(а): 0 раз(а)
Поблагодарили: 0 раз(а) в 0 сообщениях
По умолчанию Ответ: Точность вычислений real

Цитата:
Сообщение от Arsie Посмотреть сообщение
8 знаков на мантиссу. Это означает, что оба указанных вами больших числа попросту будут равны одно другому, т.к. будут представлены как 1.2345679*10 в 18 степени. И всё, что дальше семёрки, будет округлено.
Спасибо


__________________
fjohn@inbox.ru
WhiteM вне форума   Ответить с цитированием
Ответ

Опции темы Поиск в этой теме
Поиск в этой теме:

Расширенный поиск
Опции просмотра

Ваши права в разделе
Вы не можете создавать темы
Вы не можете отвечать на сообщения
Вы не можете прикреплять файлы
Вы не можете редактировать свои сообщения

BB code is Вкл.
[IMG] код Вкл.
HTML код Выкл.


Похожие темы
Тема Автор Раздел Ответов Последнее сообщение
Форматирование числа real andre SMArt 9 18.09.2023 06:24
Int48. Преобразование в real SSG Вопросы о программировании 5 06.02.2018 10:19
Некорректное отображение real вида X.XXXe-YYY на экране настроек SSG Вопросы о SMH-2G(i) 6 06.12.2017 11:37
Получение нестандартного REAL по MODBUS Arsie Примеры работы по Modbus 3 01.02.2015 12:53
ГАММА-8 чтение REAL с обратным порядком байт... Dron Связь с внешним миром 3 17.02.2010 15:58


Часовой пояс GMT +4, время: 18:25.


Версия vBulletin: 3.8.7
Copyright ©2000 - 2024, Jelsoft Enterprises Ltd.
Segnetics 2005 - 2023