Теорија информација са кодовањем

Назив предмета Теорија информација са кодовањем
Шифра предмета Статус предмета Семестар Фонд часова Број ECTS бодова
2340 Обавезан VIII 2+2+1 6
Наставници проф. др Гордана Гардашевић

 

Условљеност другим предметима Облик условљености
  Према правилима студирања
Циљеви изучавања предмета:
(1) Да студенте упозна са основама теорије информација. (2) Да студентима дâ добру теоријску подлогу из компресије података, телекомуникационог канала и заштитног кодовања (3) Да студентима укаже на значај прве и друге Шенонове теореме, као и ограничења која исте постављају.
Исходи учења (стечена знања):
Након успјешно завршеног курса студенти ће бити у стању да: (1) Одреде ентропију извора информација са дискретним алфабетом без меморије. (2) Одреде ентропију језика као извора информација са меморијом. (3) Конструишу компактне статистичке кодове. (4) Одреде ефикасност основних алгоритама компресије података. (5) Прорачунају капацитет основних модела телекомуникационих канала без меморије. (6) Изврше декодовање конволуционих кодова Витербијевим алгоритмом.
Садржај предмета:
Ентропија. Марковљеви извори. Дискретни и континуални извори информација. Статистичко кодовање. Оптимални префиксни код (Хафманов код). Аритметичко кодовање. Универзални кодови. Лемпел-Зивови алгоритми. Модели дискретног канала и капацитет канала. Основни елементи заштитног кодовања. Теорема о каналном кодовању. Конволуциони кодови и алгоритми за њихово декодовање.
Методе наставе и савладавање градива:
Предавања, аудиторне вјежбе и лабораторијске вјежбе
Литература:
  1. Г. Лукатела, Статистичка теорија телекомуникација и теорија информација, Електротехнички факултет у Београду, Београд, 1974.
  2. T. M. Cover, J. A. Thomas, Elements of Information Theory, John Wiley & Sons, Inc., New York, USA, 1991.
  3. H. Hsu, Analog and Digital Communications, Schaum’s Outlines, New York, USA, 2003.
  4. Д. Драјић, П. Иваниш, Увод у теорију информација и кодовање, Академска мисао, Београд, 2009.
Облици провјере знања и оцјењивање:
 
Похађање наставе 5 Лабораторијске вјежбе 10 Завршни испит 40
Активност на настави 5 Колоквијум 40  
Посебна назнака за предмет:
 
Име и презиме наставника који је припремио податке: проф. др Војин Шенк

© Електротехнички факултет, Универзитет у Бањој Луци,  1996-2017