Subject

Длабоко учење за обработка на природните јазици

Course Title

Длабоко учење за обработка на природните јазици
Deep learning for natural language processing

Code

m23_w_028

Study Programme

—

Organizer of the study programme (unit, institute, department or division)

Faculty of Computer Science and Engineering

Degree level (first, second, third cycle)

Second cycle

Academic year / semester

9 / Winter

Number of ECTS credits

Teacher

Соња Гиевска

Prerequisites for enrolling in the course

—

10.

Objectives of the course programme (competences)

Целта на предметот е студентот да се запознае со модерните техники на длабоко учење за разбирање на природните јазици и генерирање на текст. По завршување на предметот, студентот ќе биде оспособен за избор и примена на соодветна длабока невронска архитектура за проблемите од областа.

11.

Course content

Дел од темите се посветени на запознавање на студентот со предизвиците и постигнувањата во областа на обработка на природните јазици: Моделирање на природните јазици. Афективна анализа. Детекција на антисоцијални појави на веб (пр. навредлив говор, лажни вести, говор на омраза и со предрасуди). Машински превод. Генерирање на текст со примена за сумирање на документи, разговорни-дијалог агенти, одговори на прашања и промена на стилот на текст. Анализа и толкување на системи за разбирање и генерирање на текст. Преиспитување на етички и морални апсекти во системите за обработка на природните јазици.
За решавање на проблемите од областа ќе бидат користени модерни техники од областа на длабоко учење: длабоки невронски мрежи со внимание, генеративни спротивставени мрежи, граф-невроснки мрежи, трансформер архитектури, трансфер на учење и учење со поттикнување.

12.

Learning methods

Предавања поддржани со презентации преку слајдови, интерактивни предавања, вежби (користење на опрема и софтверски пакети), тимска работа, студија на случај, поканети гости предавачи, самостојна изработка и одбрана на проектна задача и семинарска работа, учење во електронско опкружување (форуми, консултации).

13.

Total available time

6 ECTS x 30 hours = 180 hours

14.

Distribution of available time

60 + 0 + 45 + 45 + 30 = 180 hours

15.

Forms of teaching activities

15.1.	Lectures - theoretical instruction	60 hours
15.2.	Exercises (laboratory, auditory), seminars, teamwork	0 hours

16.

Other forms of activities

16.1.	Project assignments	45 hours
16.2.	Independent assignments	45 hours
16.3.	Home study	30 hours

17.

Assessment method

17.1.	Tests	15 бодови
17.2.	Seminar paper / project (presentation: written and oral)	45 points
17.3.	Activities and learning	15 бодови
17.4.	Final exam	0 points

18.

Grading criteria (points / grade)

up to 50 points	5 (five) (F)
from 51 to 60 points	6 (six) (E)
from 61 to 70 points	7 (seven) (D)
from 71 to 80 points	8 (eight) (C)
from 81 to 90 points	9 (nine) (B)
from 91 to 100 points	10 (ten) (A)

19.

Requirement for obtaining a signature and taking the final exam

Реализирани активности 15.1 до 15.2, и 16.1 до 16.3

20.

Language of instruction

Македонск и англиски

21.

Method for monitoring the quality of teaching

Механизми на интерна евалуација и анкети

22.

Literature

22.1.	Required literature 1. Ian Goodfellow, Joshua Bengio, Aaron Courvile \| Deep Learning \| МИТ \| 2016 2. Jurafsky & Martin \| Speech and Language Processing \| Prentice Hall \| 2021
22.2.	Additional literature No. Author Title Publisher Year