Вероятность и статистика в примерах и задачах. Том 3. Информация, кодирование, статистика и машинное обучение. Часть I. Теория информации

Для освоения таких разделов прикладной математики, как теория вероятностей, математическая статистика, теория информации и кодирование, тренировка в решении задач и выработка интуиции важны не меньше, чем изучение доказательств теорем; большое разнообразие задач по этому предмету затрудняет студентам переход от лекций к экзаменационным задачам, а от них — к практике. Этот том включает стандартный пакет информационно-теоретического материала, обычно читаемого на факультетах информатики и электроники, а также прикладной математики в ведущих университетах. При этом излагаются как вероятностные, так и алгебраические аспекты теории информации и кодирования, включая основы теории и некоторые ее современные аспекты. Предмет этой книги критически важен для современных приложений (телекоммуникации, обработка сигналов, информатика, криптография). Авторы собрали большое количество упражнений, снабженных полными решениями. Эти решения адаптированы к нуждам и умениям учащихся. Необходимые теоретические сведения приводятся по ходу изложения; кроме того, текст снабжен историческими отступлениями.