WWW.DISSERS.RU

БЕСПЛАТНАЯ ЭЛЕКТРОННАЯ БИБЛИОТЕКА

   Добро пожаловать!

Pages:     | 1 |   ...   | 6 | 7 || 9 | 10 |   ...   | 14 |

Расстоянием (Хэмминга) между двоичными словами длины n называется количество позиций, в которых эти слова различаются. Это одно из ключевых понятий теории кодирования. Если обозначить двоичные слова как a = a1... an и b = b1... bn, то расстояние между ними обозначается d(a, b).

Весом двоичного слова a = a1... an называется количество единиц n в нем. Обозначение w(a). Можно сказать, что w(a) = ai.

i=Пример. Пусть a = 1001 и b = 0011, тогда w(a) = w(b) = 2, d(a, b) = 2.

Далее операция + при применении к двоичным словам будет означать поразрядное сложение без переноса, т. е. сложение по модулю или “исключающее ИЛИ” (XOR).

Расстояние между двоичными словами a и b равно весу их поразрядной суммы, т.е. d(a, b) = w(a + b).

Если два слова различаются в каком-либо разряде, то это добавит единицу к весу их поразрядной суммы.

Следовательно, если a и b — слова длины n, то вероятность того, что слово a будет принято как b, равна pn-d(a,b)qd(a,b).

Наример, вероятность того, что слово 1011 будет принято как 0011, равна p3q.

Для возможности обнаружения ошибки в одной позиции минимальное расстояние между словами кода должно быть б ольшим 1.

Иначе ошибка в одной позиции сможет превратить одно кодовое слово в другое, что не даст ее обнаружить.

Для того, чтобы код давал возможность обнаруживать все ошибки кратности, не большей k, необходимо и достаточно, чтобы наименьшее расстояние между его словами было k + 1.

Достаточность доказывается конструктивно: если условие утверждения выполнено для E, то в качестве декодирующей функции D следует взять функцию, сообщающую об ошибке, если декодируемое слово отличается от любого из слов из образа E. Необходимость доказывается от противного: если минимальное расстояние k < k + 1, то ошибка в k позициях сможет превратить одно кодовое слово в другое.

Для такого кода вероятность того, что ошибки в сообщении останутся необнаруженными, равна n i k+1 n-Cnpn-iqi = Cn pn-k-1qk+1 + · · · + Cn pqn-1 + qn i=k+k+ [при малых q и не слишком маленьких k] Cn pn-k-1qk+1.

Для того, чтобы код давал возможность исправлять все ошибки кратности, не большей k, необходимо и достаточно, чтобы наименьшее расстояние между его словами было 2k + 1.

Клод Шеннон Норберт Винер Давид Хаффмен Ричард Хэмминг Авраам Лемпел Рональд Ривест, Эди Шамир, Дональд Кнут Леонард Адлеман Достаточность доказывается конструктивно: если условие утверждения выполнено для E, то в качестве декодирующей функции D следует взять функцию, возвращающую ближайшее к декодируемому слово из образа E. Необходимость доказывается от противного. Пусть расстояние между выбранными словами в коде равно 2k. Тогда если при передаче каждого из этих слов случится k ошибок, которые изменят биты, в которых различаются эти слова, то приемник получит два идентичных сообщения, что свидетельствует о том, что в данной ситуации исправление k ошибок невозможно. Следовательно, минимальное расстояние между словами кода должно быть б ольшим 2k.

Пример. Рассмотрим (1, 3)-код, состоящий из E, задающей отображение 0 000 и 1 111, и D, задающей отображение 000 0, 0, 010 0, 011 1, 100 0, 101 1, 110 1, 111 1. Этот код (с тройным повторением) исправляет ошибки в одной позиции, т.к. минимальное расстояние между словами кода равно 3.

Если код исправляет все ошибки кратности k и меньшей, то вероятность ошибочного приема слова длины n очевидно не превосходит n i Cnpn-iqi. Вероятность правильного приема в этом случае не i=k+меньше, чем k i 1 k Cnpn-iqi = pn + Cnpn-1q + · · · + Cnpn-kqk.

i=Передачу данных часто удобно рассматривать следующим образом. Исходное сообщение a = a1... am кодируется функцией E в кодовое слово b = b1... bn. Канал связи при передаче добавляет к нему функцией T строку ошибок e = e1... en так, что приемник получает сообщение r = r1... rn, где ri = bi + ei (1 i n). Система, исправляющая ошибки, переводит r в некоторое (обычно ближайшее) кодовое слово. Система, только обнаруживающая ошибки, лишь проверяет, является ли принятое слово кодовым, и сигнализирует о наличии ошибки, если это не так.

Пример. Пусть передаваемое слово a = 01 кодируется словом b = 0110, а строка ошибок — e = 0010. Тогда будет принято слово r = 0100. Система, исправляющая ошибки, переведет его в 0110 и затем восстановит переданное слово 01.

Если система только обнаруживает ошибки и расстояние между любыми кодовыми словами k 2, то любая строка ошибок e с единственной единицей приведет к слову r = b + e, которое не является кодовым.

Пример. Рассмотрим (2, 3)-код с проверкой четности. Множество кодовых слов — {000, 011, 101, 110}. Ни одна из строк ошибок 001, 010, 100, 111 не переводит одно кодовое слово в другое. Поэтому однократная и тройная ошибки могут быть обнаружены.

Пример. Следующий (2, 5)-код обнаруживает две ошибки:

a1 = 00 00000 = b1, a2 = 01 01011 = b2, a3 = 10 10101 = b3, a4 = 11 11110 = b4.

Этот же код способен исправлять однократную ошибку, потому что любые два кодовых слова отличаются по меньшей мере в трех позициях. Из того, что d(bi, bj) 3 при i = j, следует, что однократная ошибка приведет к приему слова, которое находится на расстоянии от кодового слова, которое было передано. Поэтому схема декодирования, состоящая в том, что принятое слово переводится в ближайшее к нему кодовое, будет исправлять однократную ошибку. В двоичном симметричном канале вероятность правильной передачи одного блока будет не меньше чем p5 + 5p4q.

Установлено [20], что в (n - r, n)-коде, минимальное расстояние между кодовыми словами которого 2k + 1, числа n, r (число дополнительных разрядов в кодовых словах) и k должны соответствовать неравенству k k-1 r log2(Cn + Cn + · · · + Cn + 1), называемому неравенством или нижней границей Хэмминга. Кроме того, если числа n, r и k соответствуют неравенству 2k-1 2k-2 r > log2(Cn-1 + Cn-1 + · · · + Cn-1 + 1), называемому неравенством или верхней границей Варшамова-Гильберта, то существует (n - r, n)-код, исправляющий все ошибки веса k и менее [20].

Нижняя граница задает необходимое условие для помехозащитного кода с заданными характеристиками, т.е. любой такой код должен ему соответствовать, но не всегда можно построить код по подобранным, удовлетворяющим условию характеристикам. Верхняя граница задает достаточное условие для существования помехозащитного кода с заданными характеристиками, т. е. по любым подобранным, удовлетворяющим условию характеристикам можно построить им соответствующий код.

Упражнение Имеется (8, 9)-код с проверкой четности. Вычислить вероятность того, что в случае ошибки этот код ее не обнаружит, если вероятность ошибки при передаче каждого бита равна 1%. Вычислить также вероятность ошибочной передачи без использования кода. Сделать аналогичные расчеты для случая, когда вероятность ошибки в десять раз меньше.

Упражнение Вычислить минимальную и максимальную оценки количества дополнительных разрядов r для кодовых слов длины n, если требуется, чтобы минимальное расстояние между ними было d. Рассмотреть случаи n = 32, d = 3 и n = 23, d = 7.

22. Матричное кодирование Ранее каждая схема кодирования описывалась таблицами, задающими кодовое слово длины n для каждого исходного слова длины m.

Для блоков большой длины этот способ требует большого объема памяти и поэтому непрактичен. Например, для (16, 33)-кода потребуется 33 216 = 2 162 688 бит.

Гораздо меньшего объема памяти требует матричное кодирование. Пусть E матрица размерности m n, состоящая из элементов eij, где i — это номер строки, а j — номер столбца. Каждый из элементов матрицы eij может быть либо 0, либо 1. Кодирование реализуется операцией b = aE или bj = a1e1j + a2e2j + · · · + amemj, где кодовые слова рассматриваются как векторы, т.е как матрицы-строки размера 1 n.

Пример. Рассмотрим следующую 3 6-матрицу:

1 0 0 1 1 E = 0 1 0 0 1 1.

0 0 1 1 1 Тогда кодирование задается такими отображениями: 000 000000, 001 001111, 010 010011, 011 011100, 100 100110, 101001, 110 110101, 111 111010.

Рассмотренный пример показывает преимущества матричного кодирования: достаточно запомнить m кодовых слов вместо 2m слов. Это общий факт.

Кодирование не должно приписывать одно и то же кодовое слово разным исходным сообщениям. Простой способ добиться этого состоит в том, чтобы m столбцов (в предыдущем примере — первых) матрицы E образовывали единичную матрицу. При умножении любого вектора на единичную матрицу получается этот же самый вектор, следовательно, разным векторам-сообщениям будут соответствовать разные вектора систематического кода.

Матричные коды называют также линейными кодами. Для линейных (n-r, n)-кодов с минимальным расстоянием Хэмминга d существует нижняя граница Плоткина (Plotkin) [14] для минимального количества контрольных разрядов r при n 2d - 1, r 2d - 2 - log2 d.

Упражнение Вычислить минимальную оценку по Плоткину количества дополнительных разрядов r для кодовых слов матричного кода, если требуется, чтобы минимальное расстояние между ними было d. Рассмотреть случаи из предыдущего упражнения.

23. Групповые коды Множество всех двоичных слов a = a1... am длины m образует абелеву (коммутативную) группу относительно поразрядного сложения.

Пусть E — кодирующая m n-матрица, у которой есть m mподматрица с отличным от нуля определителем, например, единичная.

Тогда отображение a aE переводит группу всех двоичных слов длины m в группу кодовых слов длины n.

Предположим, что a = a1... am = a +a. Тогда для b = b1 · · · bn = aE, b = a E, b = a E, получаем bj = a1e1j + a2e2j + · · · + amemj = = (a + a )e1j + (a + a )e2j + · · · + (a + a )emj = b + b, 1 2 2 2 m m j j т. е. b = b + b. Следовательно, взаимно-однозначное отображение группы двоичных слов длины m при помощи заданной матрицы E сохраняет свойства групповой операции, что означает, что кодовые слова образуют группу.

Блочный код называется групповым, если его кодовые слова образуют группу.

Если код является групповым, то наименьшее расстояние между двумя кодовыми словами равно наименьшему весу ненулевого слова.

Это следует из соотношения d(bi, bj) = w(bi + bj).

В предыдущем примере наименьший вес ненулевого слова равен 3. Следовательно, этот код способен исправлять однократную ошибку или обнаруживать однократную и двойную.

При использовании группового кода незамеченными остаются те и только те ошибки, которые отвечают строкам ошибок, в точности равным кодовым словам.

Такие строки ошибок переводят одно кодовое слово в другое.

Следовательно, вероятность того, что ошибка останется необнаруженной, равна сумме вероятностей всех строк ошибок, равных кодовым словам.

В рассмотренном примере вероятность ошибки равна 4p3q3 +3p2q4.

Рассмотрим задачу оптимизации декодирования группового кода с двоичной матрицей кодирования E. Требуется минимизировать вероятность того, что D(T (aE)) = a.

Схема декодирования состоит из группы G всех слов, которые могут быть приняты (#G = 2n). Так как кодовые слова B образуют нормальную (нормальность следует из коммутативности G) подгруппу G, то множеству G можно придать структуру таблицы: будем записывать в одну строку те элементы G, которые являются членами одного смежного класса G по B. Первая строка, соответствующая нулевому слову m из G, будет тогда всеми кодовыми словами из B, т. е. b0, b1,..., b2 -1.

В общем случае, если gi G, то строка, содержащая gi (смежный класс m giB) имеет вид b0 + gi, b1 + gi,..., b2 -1 + gi.

Лидером каждого из таких построенных смежных классов называется слово минимального веса.

Каждый элемент g из G однозначно представляется в виде суммы gi +bj, где gi G — лидер соответствующего смежного класса и bj B.

Множество классов смежности группы образуют фактор-группу, которая есть фактор-множество множества G по отношению эквивалентностипринадлежности к одному смежному классу, а это означает, что множества, составляющие это фактор-множество, образуют разбиение G. Отсюда следует, что строки построенной таблицы попарно либо не пересекаются, либо совпадают.

Если в рассматриваемой таблице в первом столбце записать лидеры, то полученная таблица называется таблицей декодирования. Она имеет вид:

m b0 b1 b2 · · · b2 -m g1 g1 + b1 g1 + b2 · · · g1 + b2 -· · · · · · · · · · · · · · · m g2n-m g2n-m + b1 g2n-m + b2 · · · g2n-m + b2 -1.

-1 -1 -1 -То, что строк будет 2n-m следует из теоремы Лагранжа [1], т.к. 2n-m — это порядок фактор-группы G/B, #(G/B) = #(G)/#(B), #B = 2m.

Декодирование слова g = bj + gi состоит в выборе кодового слова bj в качестве переданного и последующем применении операции, обратной умножению на E. Такая схема декодирования сможет исправлять ошибки.

Для (3, 6)-кода из рассматриваемого примера таблица декодирования будет следующей:

000000 100110 010011 110101 001111 101001 011100 100000 000110 110011 010101 101111 001001 111100 010000 110110 000011 100101 011111 011001 001100 001000 101110 011011 111101 000111 100001 010100 000100 100010 010111 110001 001011 101101 011000 000010 100100 010001 110111 001101 101011 011110 000001 100111 010010 110100 001110 101000 011101 000101 100011 010110 110000 001010 101100 011001 111111.

Первая строка в ней — это строка кодовых слов, а первый столбец — это лидеры.

Чтобы декодировать слово bj + e, следует отыскать его в таблице и выбрать в качестве переданного слово в том же столбце и в первой строке.

Например, если принято слово 110011 (2-я строка, 3-й столбец таблицы), то считается, что было передано слово 010011; аналогично, если принято слово 100101 (3-я строка, 4-й столбец таблицы), переданным считается слово 110101, и т.д.

Групповое кодирование со схемой декодирования посредством лидеров исправляет все ошибки, строки которых совпадают с лидерами.

Следовательно, вероятность правильного декодирования переданного по двоичному симметричному каналу кода равна сумме вероятностей всех лидеров, включая нулевой.

В рассмотренной схеме вероятность правильной передачи слова будет p6 + 6p5q + p4q2.

Кодовое слово любого столбца таблицы декодирования является ближайшим кодовым словом ко всем прочим словам данного столбца.

Пусть переданное слово bi принято как bi + e, d(bi, bi + e) = w(e), т. е.

это расстояние равно весу соответствующего лидера. Расстояние от bi + e до любого другого кодового слова bj равно весу их поразрядной суммы, т.е.

d(bj, bi + e) = w(bj + bi + e) = d(bj + bi, e) = d(bk, e) = w(bk + e) w(e), т. к. e — лидер смежного класса, к которому принадлежат как bk + e, так и bi + e.

Доказано, при схеме декодирования лидерами по полученному слову берется ближайшее к нему кодовое.

Упражнение 1 0 0 1 0 1 0 :

Для кодирующих матриц E1 =, E2 = 0 1 0 0 1 1 1 0 0 1 1. Построить соответственно (2, 5)-код и (3, 4)-код.

Pages:     | 1 |   ...   | 6 | 7 || 9 | 10 |   ...   | 14 |



© 2011 www.dissers.ru - «Бесплатная электронная библиотека»

Материалы этого сайта размещены для ознакомления, все права принадлежат их авторам.
Если Вы не согласны с тем, что Ваш материал размещён на этом сайте, пожалуйста, напишите нам, мы в течении 1-2 рабочих дней удалим его.