Применета теорија на информации

1.

Наслов на наставниот предмет

Применета теорија на информации

Applied Information Theory

2.

Код

m23_w_018

3.

Студиска програма

Пресметување во облак, Управување во информатички технологии, Биоинформатика, Едукација со ИКТ, Еко-информатика, Интелигентни системи, Интернет технологии и сајбер безбедност, Компјутерски науки, Статистика и аналитика на податоци, Софтвер за вградливи системи, Софтверско инженерство, Пресметување во облак, Управување во информатички технологии, Биоинформатика, Безбедност, криптографија и кодирање, Статистика и аналитика на податоци, Софтверско инженерство, Data science in computer science and engineering, Безбедност, криптографија и кодирање,

4.

Организатор на студиската програма (единица, односно институт, катедра, оддел)

Факултет за информатички науки и компјутерско инженерство

5.

Степен (прв, втор, трет циклус)

Втор циклус

6.

Академска година / семестар

5 / Зимски

7. Број на ЕКТС кредити

6.0

8.

Наставник

ворн. проф. д-р Александра Поповска Митровиќ ворн. проф. д-р Наташа Илиевска проф. д-р Верица Бакева

9.

Предуслови за запишување на предметот

10.

Цели на предметната програма (компетенции):

Изучување на напредните аспекти на математички модел на комуникациски систем.

11.

Содржина на предметната програма:

Комуникациски систем. Ентропија. Информација. Компресија на податоци: Кодирање со загуби. Asymptotic Equipartition Property (AEP) за независни случајни променливи. Теорема на Shannon за кодирање на изворен сигнал. Кодирање без загуби. Симболични кодови. Проблем на единствено декодирање. Моментални кодови. Крафтово неравенство. Теорема за бесшумно кодирање. Конструкција на оптимални кодови. Комуникација преку канал со шум (Комуникациски канал. Модели на комуникациски канал. Дискретен канал без меморија. Капацитет на дискретен канал без меморија). Извори на информации: Вериги на Марков. Извор на информации. Регуларен Марков извор. Ентропија на извор. Ред на извор. Апроксимација на општ извор на информации со извор од конечен ред. Ергодичен извор. Теорема на Shannon – McMillan (Asymptotic Equipartition Property (AEP)). Дискретен канал со меморија: Модели на дискретен канал со меморија. Канал со конечно множество состојби. Капацитет на општ дискретен канал. Теорема за кодирање за регуларен канал со конечно множество состојби. Непрекинати канали: Ентропија на непрекинати случајни променливи. Ентропија на Гаусова случајна променлива. Видови непркинати канали. Гаусов канал (временски дискретен). AEP за непрекинати случајни променливи. Теорема за кодирање за Гаусов канал.

12.

Методи на учење:

Предавања, проекти, дискусии, работилници

13.

Вкупен расположив фонд на време

6.0 ЕКТС x 30 часа = 180 часа

14.

Распределба на расположивото време

60 + + 45 + 45 + 30 = 180 часа

15.

Форми на наставните активности

15.1.

Предавања- теоретска настава

60 часови

15.2.

Вежби (лабораториски, аудиториски), семинари, тимска работа

часови

16.

Други форми на активности

16.1.

Проектни задачи

45 часови

16.2.

Самостојни задачи

45 часови

16.3.

Домашно учење

30 часови

17.

Начин на оценување

17.1.

Тестови

0 бодови

17.2.

Семинарска работа/ проект ( презентација: писмена и усна)

45 бодови

17.3.

Активности и учење

0 бодови

17.4.

Завршен испит

50 бодови

18.

Критериуми за оценување (бодови/ оценка)

до 50 бода

5 (пет) (F)

од 51 до 60 бода

6 (шест) (E)

од 61 до 70 бода

7 (седум) (D)

од 71 до 80 бода

8 (осум) (C)

од 81 до 90 бода

9 (девет) (B)

од 91 до 100 бода

10 (десет) (A)

19.

Услов за потпис и полагање на завршен испит

Реализирани активности 15, 16

20.

Јазик на кој се изведува наставата

Македонски и англиски

21.

Метод на следење на квалитетот на наставата

Механизам на интерна евалуација и анкети

22.

Литература

22.1.

Задолжителна литература

22.2.

Дополнителна литература