|
SMLogix Вопросы о работе в среде SMLogix и о FBD-программировании |
|
Опции темы | Поиск в этой теме | Опции просмотра |
03.07.2013, 15:50 | #1 |
Новичок
Регистрация: Jun 2007
Адрес: Рязань
Сообщения: 29
Благодарил(а): 0 раз(а)
Поблагодарили:
0 раз(а) в 0 сообщениях
|
Точность вычислений real
Если сложить 1234567890987654321 и 5 с помошью "ADD(real)" то действительно ли я получу на выходе 1234567890987654326?
Результаты сложения, вычитания, умножения и деления чисел real правильные полностью или до какого-то разряда, а остальное отбрасывается (за границы диапазона real не выходим, но рядом)? Кажется когда-то давно был такой вопрос, но поиск по форуму ничего не дал |
03.07.2013, 16:12 | #2 | |
Сотрудник Segnetics
Регистрация: Jan 2006
Адрес: Russia, SPb
Сообщения: 18 024
Благодарил(а): 15 раз(а)
Поблагодарили:
655 раз(а) в 599 сообщениях
|
Ответ: Точность вычислений real
Цитата:
Велкам ту мануал: http://en.wikipedia.org/wiki/IEEE_754 __________________ Программа делает то что написал программист, а не то что он хотел. Добро всегда побеждает зло. Кто победил - тот и добрый. |
|
03.07.2013, 16:18 | #3 |
Новичок
Регистрация: Jun 2007
Адрес: Рязань
Сообщения: 29
Благодарил(а): 0 раз(а)
Поблагодарили:
0 раз(а) в 0 сообщениях
|
Ответ: Точность вычислений real
Спасибо
|
Опции темы | Поиск в этой теме |
Опции просмотра | |
|
|
Похожие темы | ||||
Тема | Автор | Раздел | Ответов | Последнее сообщение |
Форматирование числа real | andre | SMArt | 9 | 18.09.2023 06:24 |
Int48. Преобразование в real | SSG | Вопросы о программировании | 5 | 06.02.2018 10:19 |
Некорректное отображение real вида X.XXXe-YYY на экране настроек | SSG | Вопросы о SMH-2G(i) | 6 | 06.12.2017 11:37 |
Получение нестандартного REAL по MODBUS | Arsie | Примеры работы по Modbus | 3 | 01.02.2015 12:53 |
ГАММА-8 чтение REAL с обратным порядком байт... | Dron | Связь с внешним миром | 3 | 17.02.2010 15:58 |