Показать сообщение отдельно
Старый 04.08.2020, 18:38   #1
VaBo
Senior Member
 
Регистрация: Apr 2012
Сообщения: 111
Благодарил(а): 2 раз(а)
Поблагодарили: 1 раз в 1 сообщении
По умолчанию максимально точное измерение

Здравствуйте!
У МС заявлен высокоразрядный АЦП, хочу попробовать выжать максимум. Имею датчик, который после измерения фиксирует значение на своем токовом выходе, задача - максимально точно его оцифровать.
В этом случае подходит простое усреднение за N измерений. N будет где-то 10-15 (там три датчика, чтобы уложиться в 3-5 сек).
Вопрос, - стОит ли заморачиваться и переводить реал в лонг (с умножением на 10000) суммированием 10 (к примеру) лонгов и дальнейшей работе с этим числом? Подобные же значения будет забиты в качестве калибровочных коэффициентов.
Или точности реала будет вполне достаточно?
Вопрос, в принципе, к разработчикам, кроме них никто не знает нюансов обработки данных с АЦП в МС и далее, в Лоджике.

Датчик - измеритель расстояния, на собственном дисплее уверенно показывает точность 1 мкм в диапазоне 8 мм. Вся система будет калиброваться по трем точкам. Токовые выходы подключаются только на время оцифровки (не перегревать шунт в МС).
VaBo вне форума   Ответить с цитированием