Сразу делали оба пункта?
Увеличить период опроса пробовали?
Таймаут увеличить пробовали?
Я бы пробовал по другому.
В MODBUS Scanner-е.
Создал одну переменную.
Добился бы ответа.
Создал вторую.
По отдельности опросил (без группового ответа).
Опросил вместе.
Создал остальные.
Опросил вместе (некоторые устройства не поддерживают опрос свыше хх переменных одновременно).
Потихоньку уменьшал бы период - до начала ошибок - потом этот период*2.
Как то так ...