Теорія інформації та кодування

Abstract

Конспект лекцій з дисципліни «Теорія інформації та кодування» укладено відповідно до робочої програми навчальної дисципліни для здобувачів першого (бакалаврського) рівня вищої освіти спеціальності 126 (F6) «Інформаційні системи та технології» освітньої програми «Інформаційні системи та технології охорони і безпеки» галузі знань 12 (F) «Інформаційні технології» денної та заочної форм навчання.

У конспекті лекцій систематизовано теоретичний матеріал, необхідний для засвоєння основних положень теорії інформації та кодування. Розглянуто поняття інформації, повідомлення, сигналу, інформаційних процесів, кількісної оцінки інформації, ентропії, характеристик дискретних і неперервних джерел інформації, пропускної здатності каналів зв’язку та надмірності повідомлень. Значну увагу приділено принципам кодування повідомлень, ефективному кодуванню, методам Шеннона-Фано, Хаффмена, арифметичному кодуванню, штриховому та QR-кодуванню. Окремі розділи присвячено завадостійкому кодуванню, зокрема лінійним блоковим, циклічним і недвійковим кодам, їх математичним основам, способам побудови, виявлення та виправлення помилок. Також висвітлено методи стиснення даних без втрат інформації, словникові алгоритми стиснення, архівацію даних і практичне застосування кодів у комп’ютерних системах, мережах, системах зберігання та передавання інформації. Конспект лекцій призначений для використання під час аудиторної, дистанційної та самостійної роботи здобувачів освіти, підготовки до лабораторних і практичних занять, виконання індивідуальних завдань, модульного контролю та підсумкового екзамену. Видання сприяє формуванню системних знань і практичних умінь щодо аналізу інформаційних процесів, оцінювання інформаційних характеристик джерел повідомлень, побудови ефективних і завадостійких кодів, а також застосування методів кодування в сучасних інформаційних системах.