Кратность гарантированно исправляемых ошибок

ФЕДЕРАЛЬНОЕ АГЕНТСТВО СВЯЗИ

Федеральное государственное бюджетное образовательное учреждение высшего образования «САНКТ-ПЕТЕРБУРГСКИЙ

ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ ТЕЛЕКОММУНИКАЦИЙ им. проф. М. А. БОНЧ-БРУЕВИЧА»

С. С. Владимиров

МАТЕМАТИЧЕСКИЕ ОСНОВЫ ТЕОРИИ ПОМЕХОУСТОЙЧИВОГО КОДИРОВАНИЯ

Учебное пособие

Санкт-Петербург

СОДЕРЖАНИЕ

Предисловие . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5

1. Помехоустойчивое кодирование . . . . . . . . . . . . . . . . . 6

1.1.Основные параметры помехоустойчивых кодов. . . . . . . . . . 7

1.2.Классификация помехоустойчивых кодов . . . . . . . . . . . . 8

Контрольные вопросы . . . . . . . . . . . . . . . . . . . . . . . . 10

2. Элементы двоичной алгебры . . . . . . . . . . . . . . . . . . 11

2.1.Понятие системы счисления. Основные системы счисления. . . . 11

2.2.Перевод чисел между системами счисления . . . . . . . . . . . 13

2.3.Операции над двоичными числами . . . . . . . . . . . . . . . . 17

6. Понятие группы, кольца и поля . . . . . . . . . . . . . . . . . 36 6.1. Группа . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36

6.2.Подгруппы и смежные классы . . . . . . . . . . . . . . . . . . 38

6.3.Кольцо . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39

6.4.Поле . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40

Контрольные вопросы . . . . . . . . . . . . . . . . . . . . . . . . 41

7. Математика полей Галуа . . . . . . . . . . . . . . . . . . . . 42 7.1. Поле Галуа и его свойства . . . . . . . . . . . . . . . . . . . . 42 7.2. Основные действия над элементами поля . . . . . . . . . . . . 47 7.3. Алгоритмы для проведения расчетов в двоичных полях Галуа и их реализации . . . . . . . . . . . . . . . . . . . . . . . . . . . . 54

Контрольные вопросы . . . . . . . . . . . . . . . . . . . . . . . . 66

8. Элементы теории графов . . . . . . . . . . . . . . . . . . . . 67

8.1.Основные понятия. . . . . . . . . . . . . . . . . . . . . . . . 67

8.2.Матричное представление графа. . . . . . . . . . . . . . . . . 70

8.3.Линейные графы сигналов и передача графа . . . . . . . . . . . 73

Контрольные вопросы . . . . . . . . . . . . . . . . . . . . . . . . 77

9. Модели каналов передачи данных . . . . . . . . . . . . . . . 78

9.1.Параметры моделей каналов ПД . . . . . . . . . . . . . . . . . 79

9.2.Двоичный симметричный канал . . . . . . . . . . . . . . . . . 80

9.3.Двоичный симметричный канал со стираниями. . . . . . . . . . 82

9.4.Двоичный несимметричный канал (Z-канал) . . . . . . . . . . . 83

9.5.Канал Гилберта–Эллиотта. . . . . . . . . . . . . . . . . . . . 84

ПРЕДИСЛОВИЕ

При разработке систем передачи данных одним из важнейших этапов является выбор методов повышения достоверности при передаче информационных сообщений по каналам связи. Использование избыточных помехоустойчивых кодов является одним из наиболее эффективных методов борьбы с ошибками при передаче дискретных сообщений по каналам связи. Соответственно, вопросам изучения теории помехоустойчивого кодирования придается большое внимание в программах подготовки бакалавров и магистров, обучающихся по специальностям из области телекоммуникаций.

В настоящем пособии приведены основы математического аппарата, который используется при изучении теории помехоустойчивого кодирования, исследовании алгоритмов кодирования и декодирования, разработке и построении кодеров и декодеров приемопередающих устройств.

Пособие состоит из девяти разделов. В разд. 1 рассмотрены основные понятия и классификация помехоустойчивых кодов. Разд. 2 посвящен основам двоичной алгебры и реализации основных операций над двоичными числами. В разд. 3 описаны матрицы и основные действия над ними. В разд. 4 приводятся основные понятия комбинаторики. В разд. 5 — полиномы и основные операции с полиномами. Разд. 6 посвящен понятиям группы, кольца и поля, а в разд. 7 описан основной математический аппарат блочных помехоустойчивых кодов (Боуза–Чоудхури–Хоквингема и Рида–Соломона) — двоичные поля Галуа. В разд. 8 приводятся основы теории графов. В разд. 9 рассмотрены основные модели каналов передачи данных.

1. ПОМЕХОУСТОЙЧИВОЕ КОДИРОВАНИЕ

Помехоустойчивое кодирование (англ. Error Correcting Coding, ECC) — процесс преобразования информации, предоставляющий возможность обнаружить и исправить ошибки, возникающие при передаче информации по каналам передачи данных.

Под ошибкой при этом понимают ситуацию, когда в результате действия помех и искажений в канале передачи данных приемник принимает неверное решение, отождествляя принятый сигнал не с фактически переданным символом, а с каким-либо другим [1].

Процесс помехоустойчивого кодирования заключается во введении избыточности, т. е. для передачи информации используется код, у которого используются не все возможные комбинации, а только некоторые из них. Такие коды называют избыточными или корректирующими.

Соответственно, процесс введения избыточности (преобразование информационных символов в кодовое слово) называется кодированием, а обратный процесс восстановления информации из кодового слова, возможно содержащего ошибки, — декодированием.

В рамках цифровой системы передачи данных задачи кодирования и декодирования возложены на кодер и декодер соответственно. Структура цифровой системы передачи данных показана на рис. 1.1 [2].

Рис. 1.1. Структура цифровой системы передачи данных

Часто декодеру доступна информация, указывающая на надежность решений, принимаемых о различных символах кодового слова. Такая информация может быть использована для упрощения процесса декодирования, либо для улучшения его характеристик [2].

В целом, способность помехоустойчивых кодов определять и исправлять ошибки — их корректирующие свойства — зависит от правил постро-

ения этих кодов и параметров кода (числа разрядов, избыточности и др.), а также от используемых алгоритмов декодирования.

1.1. Основные параметры помехоустойчивых кодов

Основными параметрами, характеризующими корректирующие свойства кодов являются:

1)избыточность кода;

2)кодовое расстояние;

3)кратность гарантированно обнаруживаемых ошибок;

4)кратность гарантированно исправляемых ошибок.

1.1.1.Избыточность корректирующего кода

Избыточность корректирующего кода может быть абсолютной и относительной. Под абсолютной избыточностью понимают число вводимых дополнительных разрядов

r = n k;

где n — число кодовых символов на выходе кодера, соответствующих k информационным символам на его входе.

Относительной избыточностью корректирующего кода называют величину

С ней связана так называемая относительная скорость передачи информации или скорость кода, которая показывает, какую часть общего числа символов кодовой комбинации составляют информационные символы.

k = 1 Rотн:

n

Если производительность источника равна H символов в секунду, то скорость передачи после кодирования этой информации будет равна

R = H k : n

1.1.2. Кодовое расстояние

Кодовое расстояние d или расстояние Хемминга характеризует cтепень различия любых двух кодовых комбинаций. Оно выражается числом разрядов, в которых комбинации отличаются одна от другой.

Чтобы получить кодовое расстояние между двумя комбинациями двоичного кода, достаточно подсчитать число единиц в поразрядной сумме этих

комбинаций по модулю 2:

10011 11001 = 01010 ) d = 2:

Кодовое расстояние может быть различным. Так, в первичном натуральном безызбыточном коде это расстояние для различных комбинаций может различаться от единицы до n, где n — длина (значность) кода.

Для помехоустойчивого кода наиболее важным является минимальное кодовое расстояние dmin — наименьшее кодовое расстояние из всех между всеми парами кодовых комбинаций.

В безызбыточном коде все комбинации являются разрешенными, dmin = 1. Поэтому искажение хотя бы одного символа в комбинации будет приводить к получению ошибочного сообщения.

1.1.3. Кратности гарантированно обнаруживаемых и гарантированно исправляемых ошибок

Эти параметры напрямую зависят от минимального кодового расстояния. Под кратностью понимается количество поражённых ошибками символов кодовой комбинации.

В общем случае при необходимости обнаруживать ошибки кратности tобн минимальное кодовое расстояние должно быть, по крайней мере, на единицу больше tобн, т. е.

dmin tобн + 1:

Соответственно, кратность гарантированно обнаруживаемых кодом ошибок равна

tобн dmin 1:

Кратность гарантированно исправляемых кодом ошибок вычисляется по формуле

t dmin 1:

2

Таким образом, код, имеющий минимальное кодовое расстояние dmin = 3, позволяет гарантированно обнаружить tобн = 2 и менее ошибок и гарантированно исправить t = 1 ошибку.

1.2. Классификация помехоустойчивых кодов

Помехоустойчивые коды классифицируются по различным признакам. Одной из основных классификаций является деление кодов на блочные и непрерывные.

Блочный (блоковый) код является кодом без памяти. Кодер блочного кода отображает подающийся на вход блок информационных символов длиной k в кодовую последовательность из n выходных символов. Термин «без памяти» указывает, что каждый блок из n символов зависит только от соответствующего блока из k символов и не зависит от других блоков [2].

Основыми параметрами блочных кодов являются длина информационного блока k, длина кодового слова n, скорость кода nk и минимальное кодовое расстояние dmin.

Непрерывные или древовидные коды — это помехоустойчивые коды использующие непрерывную, или последовательную, обработку информации короткими фрагментами (блоками). Кодер древовидного кода является устройством с памятью. На его вход поступают наборы из k входных информационных символов, а на выходе появляются наборы из n кодовых символов. Каждый набор n кодовых символов зависит от текущего входного набора и от v предыдущих входных символов. Следовательно кодер должен содержать устройство памяти на m = k + v входных символов. Параметр m часто называют длиной кодового ограничения кода [2].

Также непрерывные коды характеризуются скоростью кода nk и свободным расстоянием dсв [2].

Чаще всего используются линейные древовидные коды, называемые

сверточными.

Особое место в классификации помехоустойчивых кодов занимают каскадные коды и турбо коды, представляющие из себя комбинации блочных и/или непрерывных кодов [3].

Другой подход к классификации делит коды на линейные и нелинейные. Линейные коды образуют векторное пространство, в котором два кодовых слова при сложении по определенному правилу дают в результате третье кодовое слово [2].

Практически все применяемые на практике схемы кодирования основаны на использовании линейных кодов. Двоичные линейные блоковые коды часто называют групповыми кодами, так как их кодовые слова образуют математическую структуру, называемую группа [2].

Нелинейные коды применяются гораздо реже линейных. К нелинейным кодам относится код с контрольным суммированием, в котором проверочные разряды являются записью суммы единиц в кодовой комбинации [1].

По способу кодирования коды делятся на систематические и несистематические. В первом случае информационные символы передаются на выход декодера без изменения и к ним добавляются проверочные символы. В

случае несистематического кодирования информационные символы в явном виде в кодовом слове отсутствуют.

Большинство помехоустойчивых кодов может быть использовано как для обнаружения, так и для исправления ошибок, хотя есть коды, которые позволяют лишь обнаруживать ошибки. Поскольку избыточность, требуемая для обнаружения ошибок, меньше избыточности для исправления ошибок, то коды с обнаружением ошибок часто используют в системах с обратной связью [1].

Ещё одним вариантом деления помехоустойчивых кодов является разделение их на коды, исправляющие случайные ошибки, и коды, исправляющие пакеты (пачки) ошибок. Хотя для исправления пачек ошибок было разработано большое количество кодов с хорошими характеристиками, часто оказывается выгодным использовать коды, исправляющие случайные ошибки, совместно с устройствами перемежения/деперемежения [2]. Также стоит отметить, что существуют алгоритмы декодирования, позволяющие использовать коды, рассчитанные на исправление случайных ошибок, для исправления пачек ошибок без использования перемежителей. К таким алгоритмам относится, например, мажоритарное декодирование на основе двойственного базиса [4].

Контрольные вопросы

1.Что такое помехоустойчивое кодирование?

2.Опишите структуру цифровой системы передачи данных.

3.Дайте понятие избыточности корректирующего кода. Что такое абсолютная и относительная избыточности? Как определяется скорость кода?

4.Что такое кодовое расстояние? Как оно определяется?

5.Как рассчитываются кратности гарантированно обнаруживаемых и гарантированно исправляемых ошибок?

6.Приведите классификацию помехоустойчивых кодов.

Пусть задан некоторый блоковый код длины и, состоящий из комбинаций (блоков, слов, векторов) Для упрощения определений и доказательств будем всюду считать, что входной X и выходной У алфавиты канала совпадают. В общем случае канал может иметь память и задаваться вероятностями переходов входных блоков х в выходные у.

Определение 1. Расстоянием Хэмминга между двумя комбинациями будем называть число позиций этих комбинаций, в которых отдельные кодовые символы не совпадают. Очевидно, что для любых и что для любых

Определение 2. Образцом ошибки будем называть двоичный блок длины который имеет единицы в тех позициях, в которых символы переданного х и принятого у блоков отличаются друг от друга, и нули — в остальных позициях.

Ранее в гл. 2 были сформулированы аксиомы, которым должно удовлетворять абстрактное определение понятия расстояния в функциональных пространствах сигналов. Покажем, что расстояние Хэмминга удовлетворяет этим аксиомам на пространстве -ичных последовательностей произвольной длины Первые требования: удовлетворяются очевидным образом. Остаётся проверить лишь справедливость «неравенства треугольника»:

Предположим, что отличаются друг от друга в позициях где в позициях где Тогда легко убедиться, что х и у не могут различаться в каких-либо позициях, отличных от а если то в этой позиции они могут и совпадать. Поэтому р(х,у) что и эквивалентно неравенству (7.30).

Определение 3. Весом Хэмминга блока (вектора) х (аналогично для ) будем называть число ненулевых символов этих блоков.

Определение 4. Кратностью образца ошибки (или короче — кратностью ошибки) будем называть его вес Хэмминга (По существу это число ошибок, которое произошло при передаче блока

Декодирование в заданном канале связи по максимуму правдоподобия — это принятие решения о передаче такого кодового блока для которого условная вероятность максимальна, где у — принятый блок. Это правило получения оценки можно записать в следующей компактной форме:

Как понятно из гл. 5, такое правило приводит к максимально возможной средней вероятности правильного приёма кодовых блоков при равновероятной посылке этих блоков по каналу связи. (Если последнее условие не выполняется то оптимальное декодирование должно соответствовать правилу максимальной апостериорной вероятности.)

Определение 5. Декодированием по минимуму расстояния Хэмминга будем называть следующее правило (алгоритм) принятия решения:

(По существу, правило (7.32) означает, что считается переданной та кодовая комбинация, которая отличается от принятой в наименьшем числе позиций.)

Покажем, что для без памяти правила (7.31) и (7.32) совпадают, т.е. декодирование по минимуму расстояния Хэмминга совпадает с декодированием по максимуму правдоподобия. Действительно, в соответствии с определением без памяти

где длина блоков Легко убедиться, что (7.33) является монотонно убывающей функцией при что и доказывает эквивалентность (7.31) и (7.32) для данного каната связи.

В случае использования произвольного канала связи, например несимметричного или с памятью, декодирование по минимуму расстояния Хэмминга не обязательно будет оптимальной процедурой, однако ввиду простаты (7.32) этот алгоритм часто используется и в данных случаях.

Если канал симметричен, но имеет память, то он может быть преобразован в без памяти, а следовательно, для него окажется оптимальным хэмминговский алгоритм декодирования после следующего преобразования канала связи, который называют перемежением символов или декорреляциеи. Как показано на рис. 7.2, кодовые блоки, содержащие символов, номера которых отмечены верхними индексами после их формирования предварительно заносятся в буферную память. После окончания формирования последнего блока начинается передача символов этих блоков в канал связи «по столбцам» матрицы, находящейся в буферной памяти, т.е. последовательно передаются символы На приёме эти символы запоминаются в виде последовательных строк матрицы. После заполнения всех таких строк начинается декодирование по столбцам последовательных кодовых блоков с номерами (1), (2), Видно, что каждая пара смежных символов в любом из кодовых блоков передаётся в канале связи с разнесением во времени где — длительность канального символа. Если параметр выбран достаточно большим, а зависимость между ошибками (память канала) убывает при разнесении передаваемых символов, то после такой процедуры можно практически полностью устранить память в канале связи.

Рис. 7.2. Процедура перемещения символов

Определение 6. Минимальным кодовым расстоянием для заданного кода V будем называть минимальное расстояние по Хэммингу между всеми парами его несовпадающих кодовых комбинаций, т.е.

Избыточный код V может использоваться в канале связи с помехами не только для декодирования (распознавания) действительно передававшихся сообщений, фактически для исправления ошибок, но и для обнаружения ошибок. Естественным алгоритмом декодирования с обнаружением ошибок является принятие решения об отсутствии ошибок, когда принятая комбинация у совпадает с одной из разрешённых кодовых комбинациях, т.е. и обнаружение ошибок, если для всех Очевидно, что в этом случае возможны ошибки декодирования, а именно принятие решения об отсутствии ошибки, в то время как они в действительности имеют место. Будем называть это событие необнаруженной ошибкой, а его вероятность — вероятностью необнаруженной ошибки, обозначая её через или для заданного кода При рассмотренном выше алгоритме обнаружения ошибок необнаруженная ошибка может появиться тогда, и только тогда, когда передаваемая по каналу связи кодовая комбинация под воздействием помех перейдёт на выходе в какую-либо другую кодовую (разрешённую) комбинацию. Поэтому при равновероятном выборе кодовых комбинаций

Определение 7. Будем говорить, что код К гарантированно обнаруживает или исправляет ошибки кратности не больше при использовании некоторого алгоритма обнаружения или исправления ошибок, если кодовые слова после применения этих алгоритмов не будут содержать необнаруженных или неисправленных ошибок, когда кратность ошибки в канале связи не превосходит 1. (Данный код может исправлять или обнаруживать ошибки и большей кратности, но это может иметь место не для всех образцов ошибок). Возможности кода обнаруживать ошибки определяются следующей теоремой.

Теорема 7.3. Если код имеет минимальное расстояние то он гарантированно обнаруживает ошибки кратности не более чем

Доказательство. Как было отмечено ранее, ошибка оказывается необнаруженной тогда, и только тогда, когда под воздействием помех в канале связи передававшаяся кодовая комбинация переходит в какую-либо другую кодовую комбинацию. Но для этого необходимо, чтобы образец ошибок имел кратность не меньше поскольку все кодовые комбинации по определению понятия минимального кодового расстояния отличаются друг от друга не меньше, чем в позициях.

Определение 8. Будем называть функцией кратности ошибки в данном канале связи вероятность появления ошибок на кодовом блоке длины . В частном случае без памяти

Теорема 7.3 позволяет получить верхнюю границу для вероятности необнаруженной ошибки кодом V с минимальным расстоянием

(Неравенство в (7.37) возникает потому, что код с минимальным расстоянием может, вообще говоря, обнаруживать ошибки и кратности большей, чем Подставляя (7.36) в (7.37), получаем, что для (в частном случае без памяти

Возможности кода по исправлению ошибок определяются следующей теоремой.

Теорема 7.4. Если код имеет минимальное расстояние то при декодировании по минимуму расстояния Хэмминга он гарантированно исправляет ошибки кратности не более, чем где означает целую часть х.

Доказательство. Пусть передавалось кодовое слово х, и принято слово у, причём по условию теоремы Предположим, что существует кодовое слово которое находится от принятого слова у на расстоянии Хэмминга не большим, чем слово и, следовательно, может произойти ошибочное декодирование этого слова вместо слова Этот факт означает, что Применяя неравенство треугольника (7.30) к словам получаем

С другой стороны, выполнение (7.39) невозможно, поскольку по определению для данного кода Следовательно, действительно передававшееся кодовое слово х, будет декодировано верно, и теорема доказана.

Теорема 7.4 позволяет построить верхнюю границу вероятности ошибочного декодирования при использовании алгоритма Хэмминга в произвольном канале связи:

В частном случае без памяти получаем из (7.36) и (7.40)

Определение 9. Будем называть алгоритмом совместного исправления ошибок кратности до и обнаружения ошибок при использовании кода V с минимальным расстоянием алгоритм, который по принятому слову у декодирует кодовое слово если и обнаруживает наличие ошибки, если для всех кодовых слов

Свойства кода с заданными параметрами по совместному исправлению и обнаружению ошибок определяются следующей теоремой.

Теорема 7.5. Если код имеет минимальное расстояние то использование алгоритма совместного исправления ошибок кратности до включительно и обнаружения ошибок, обеспечивает гарантированное исправление ошибок кратности не больше и обнаруживает число ошибок кратности не более

Доказательство утверждения о гарантированном исправлении ошибок очевидно, а доказательство утверждения о гарантированном обнаружении ошибок производится аналогично доказательству теорем 7.3 и 7.4.

Теорема 7.5 позволяет получить верхнюю границу для вероятности необнаруженной ошибки и нижнюю границу для вероятности правильного декодирования при использовании кодов с данным алгоритмом совместного исправления и обнаружения ошибок

(Подставляя (7.36) в эти неравенства, получаем соответствующие границы для частного случая канала без памяти.)

В некоторых случаях на выходе канала могут появляться дополнительные пометки о ненадёжности принятых символов, что приводит к их стиранию. Это может происходить из-за низкого отношения сигнал-шум, соответствующего данному тактовому интервалу.

В качестве признака отсутствия стирания символа на тактовом интервале при оптимальном когерентном приёме противоположных сигналов на фоне белого шума можно использовать превышение некоторого порога абсолютным значением корреляционного интеграла где принимаемый непрерывный сигнал, длительность элемента сигнала (тактовый интервал, см. гл. 5).

Определение 10. Будем называть алгоритмом исправления стираний и ошибок такой метод декодирования, который измеряет расстояние Хэмминга между принятым блоком у и всеми кодовыми словами в нестёртых позициях и декодирует то кодовое слово, для которого это расстояние минимально

Исправляющая способность алгоритма совместного исправления стираний и ошибок определяется теоремой.

Теорема 7.6. Если код имеет минимальное расстояние то он может одновременно исправить стираний и ошибок при выполнении следующего условия,

Доказательство производится совершенно аналогично доказательству теоремы 7.4 с учётом того очевидного факта, что код с длиной блоков образованный из комбинаций исходного кода V при вычеркивании стёртых позиций, имеет минимальное расстояние не менее, чем

Зная совместные функции кратности ошибок и стираний в канале связи, можно рассчитать верхнюю границу для используя (7.44).

Заметим, что алгоритм исправления ошибок и стираний является промежуточным вариантом между так называемым жёстким декодированием (в дискретном канале) и мягким декодированием (в полунепрерывном канале). Более подробно эта проблема обсуждается в п. 7.3.10.

Полученные границы для показывают, что желательно иметь код с наибольшим возможным значением минимального расстояния Однако интуиция подсказывает нам, что мы можем добиться увеличения при фиксированной длине блока только уменьшая скорость кода Хотелось бы иметь точные формулы, определяющие как функцию или хотя бы верхние и нижние границы для этого параметра. Кроме того, для обеспечения что было обещано теоремой кодирования Шеннона, придется увеличивать и длины кодовых блоков но при этом количество комбинаций кода экспоненциально возрастает. Это неизбежно вызовет большие трудности при реализации процедур кодирования и декодирования. (Действительно, при кодировании нужно запомнить комбинаций и извлекать из памяти каждый раз новую комбинацию, соответствующую поступившему сообщению, а при декодировании вычислить хэмминговских расстояний и находить среди них минимальное.) Поэтому мы нуждаемся в более конструктивном (регулярном) задании кода, чем его описание таблицей кодовых комбинаций. Эту проблему удаётся решить при переходе к специальному классу так называемых линейных кодов, который описан в следующем разделе.

Однако, прежде чем перейти к его рассмотрению, сделаем ещё одно замечание. Сравнение границ (7.37) и (7.40) показывает, что в любых каналах связи и для любых кодов причём это неравенство справедливо не только для границ, но и для точных значений соответствующих вероятностей ошибок. Однако этот факт ещё не означает, что всегда целесообразно использовать обнаружение ошибок, а не их исправление. Действительно, после обнаружения ошибок в блоке он оказывается стёртым, а следовательно, не может быть выдан получателю. Обычно его доставка осуществляется при помощи повторной передачи, что требует затрат дополнительного времени.

К вопросам получения более точных оценок для и а также к сравнению систем с обнаружением и исправлением ошибок мы ещё вернёмся в следующем разделе.