| Предисловие | 6 |
| |
 Часть I. Информация и кодирование |
| |
| Глава 1. |
| Введение | 9 |
| |
| Глава 2. |
| Информация, энтропия и избыточность | 12 |
| 2.1. Информация одного события | 12 |
| 2.2. Энтропия и избыточность | 15 |
| |
| Глава 3. |
Кодирование для дискретных источников
без памяти | 23 |
| 3.1. Теорема кодирования источников 1 | 23 |
| 3.2. Коды Хаффмана | 29 |
| |
| Глава 4. |
| Энтропия связанных источников | 35 |
| 4.1. Взаимная и условная информация | 35 |
| 4.2. Совместная и условная энтропия | 38 |
| 4.3. Выводы | 41 |
| |
| Глава 5. |
| Стационарные дискретные источники с памятью | 44 |
| 5.1. Энтропия | 44 |
| 5.2. Теорема кодирования источников 2 | 48 |
| 5.3. Конечные цепи Маркова | 49 |
| 5.3.1. Дискретные во времени цепи Маркова | 49 |
5.3.2. Конечные дискретные марковские источники с
памятью r | 57 |
| 5.4. Энтропия стационарного марковского источника | 62 |
| 5.5. Кодирование стационарных марковских источников | 67 |
| 5.6. Выводы | 72 |
| |
| Глава 6. |
| Сжатие данных | 75 |
| 6.1. Введение | 75 |
| 6.2. Арифметическое кодирование | 77 |
| 6.3. Кодирование Лемпеля-Зива | 80 |
| |
| Глава 7. |
| Дискретные каналы без памяти | 84 |
| 7.1. Введение | 84 |
| 7.2. Двоичный симметричный канал | 85 |
| 7.3. Передача информации | 88 |
| 7.4. Выводы | 97 |
| 7.5. Пропускная способность канала | 100 |
| 7.5.1. Пропускная способность | 101 |
7.5.2. Пропускная способность двоичного симметричного
канала со стираниями | 102 |
| 7.6. Теорема кодирования для дискретных каналов без памяти | 107 |
| |
| Глава 8. |
| Непрерывные источники и каналы | 109 |
| 8.1. Дифференциальная энтропия | 109 |
| 8.2. Пропускная способность канала и граница Шеннона | 114 |
| 8.3. Примеры | 120 |
| |
| Часть II. Помехоустойчивое кодирование |
| |
| Глава 1. |
| Введение | 127 |
| |
| Глава 2. |
| Линейные блоковые коды | 130 |
| 2.1. Помехоустойчивое кодирование | 130 |
| 2.2. Порождающая матрица | 133 |
| 2.3. Синдромное декодирование | 135 |
| 2.4. Свойства линейных блоковых кодов | 141 |
| 2.4.1. Расстояние Хэмминга и корректирующая способность | 141 |
| 2.4.2. Совершенные коды и граница Хэмминга | 144 |
| 2.4.3. Вероятность ошибки декодирования | 145 |
| 2.4.4. Коды Хэмминга | 148 |
| 2.4.5. Расширенные коды Хэмминга | 152 |
| 2.5. Приложение: Поля Галуа | 155 |
| |
| Глава 3. |
| Циклические коды | 161 |
| 3.1. Введение | 161 |
| 3.2. Определение и свойства двоичных циклических кодов | 163 |
| 3.3. Систематические циклические коды | 170 |
| 3.4. Порождающая и проверочная матрицы | 172 |
| 3.5. Схемная реализация циклического кодирования | 177 |
| 3.6. Синдром циклических кодов и контроль ошибок | 184 |
| 3.7. Пакеты ошибок | 189 |
| 3.8. Декодер Меггитта | 191 |
| 3.9. Циклические коды Хэмминга | 196 |
| 3.10. Двоичный код Голлея | 197 |
| 3.11. CRC коды | 198 |
| 3.12. Укороченные коды | 200 |
| 3.13. Пример применения: ATM | 209 |
| 3.14. Упражнения | 215 |
| |
| Глава 4. |
| Сверточные коды | 219 |
| 4.1. Введение | 219 |
| 4.2. Кодер и импульсный отклик | 220 |
| 4.3. Полиномиальное представление | 225 |
| 4.4. Граф состояний | 228 |
| 4.5. Структура сверточных кодов | 235 |
| 4.6. Декодирования по максимуму правдоподобия | 245 |
| 4.7. Детектор Битерби | 258 |
| 4.8. Упражнения | 262 |
| |
| Глава 5. |
| Дискретные преобразования Фурье и коды PC | 268 |
| 5.1. Введение | 268 |
| 5.2. Дискретные преобразования Фурье в поле Галуа | 270 |
| 5.3. Коды Рида - Соломона | 273 |
| 5.4. Декодирование кодов Рида - Соломона | 275 |
| 5.5. Итеративный алгоритм для нахождения о(X) | 278 |
| |
| Литература | 281 |
| |
| Литература, добавленная при переводе | 283 |
| |
| Предметный указатель | 284 |
