Если 6 бит, тогда вообще становится непонятен уровень канала Д цилиндровый в том логе что ты дал... Там значения явно больше 63... Либо дискретность шума не = 1, а уже 2 или 4, но по данным лога это не так.
Можешь это отобразить в понятном формульном виде с пояснениями? Если можно, то и алгоритм...