Развој машинског учења – бесплатан курс Школе за анализу података, обука 4 семестра, Датум: 02.12.2023.

Сваки студент мора успешно завршити најмање три предмета током семестра. На пример, ако их има два у главном програму, онда морате да изаберете један од специјалних курсева.

Провера знања се врши првенствено кроз домаћи задатак – испити и тестови се спроводе само из неких предмета.

Први семестар

Обавезно

Алгоритми и структуре података, 1. део

01Сложеност и рачунски модели. Анализа рачуноводствених вредности (почетак)
02Анализа рачуноводствених вредности (крај)
03Алгоритми за сортирање спајањем и брзо сортирање
04Редна статистика. Хрпе (почетак)
05Хапс (крај)
06Хеширање
07 Дрвеће претраге (почетак)
08Стабла претраге (наставак)
09Стабла претраге (крај). Систем дисјунктних скупова
10 Проблеми РМК и ЛЦА
11 Структуре података за геометријско претраживање

12Проблем динамичке повезаности у неусмереном графу

Обука језика Ц++, 1. део

Ц++ је моћан језик са богатим наслеђем. За оне који су тек кренули путем савладавања овог језика, врло је лако изгубити се у обиљу техника и техника створених у протеклих 30 година. На курсу се предаје "Модерни Ц++" - савремени подскуп језика (стандарди 11, 14 и 17). Много пажње се поклања алатима и библиотекама – стварима које нису део језика, али без којих неће бити могуће изградити велики и сложен пројекат.

01Увод у Ц++.
02Константе. Показивачи и везе. Преношење аргумената функцији.
03Цлассес.
04Динамичко управљање меморијом.
05Варијабле, показивачи и референце.
06 Управљање меморијом, паметни показивачи, РАИИ.
07 Стандардна библиотека шаблона.
08Наслеђивање и виртуелне функције.
09 Руковање грешком.
10 Десигн паттернс.
11Простори имена Семантика померања Савршено прослеђивање.
12Представљање структура и класа у меморији. Усклађивање података. Показивачи на чланове/методе класе. Вариадиц темплатес.

Машинско учење, први део

01Основни појмови и примери примењених проблема
02Метричке методе класификације
03 Методе логичке класификације и стабла одлучивања
04Градијентне методе линеарне класификације
05Суппорт Вецтор Мацхине
06 Мултиваријантна линеарна регресија
07Нелинеарна и непараметарска регресија, нестандардне функције губитка
08 Предвиђање временских серија
09Бајесове методе класификације
10Логистичка регресија
11 Потражите правила асоцијације

Други мандат

Обавезно

Машинско учење, 2. део

01Неуронске мреже Методе класификације и регресије
02Композицијске методе класификације и регресије
03Критеријуми за избор модела и методе за избор карактеристика
04Рангинг
05Учење са појачањем
06Учење без наставника
07 Проблеми са делимичном обуком
08Колаборативно филтрирање
09Моделирање тема

Да бирају

Алгоритми и структуре података, 2. део

01 Заобилажење по ширини. Прелазак у дубину (почетак)
02 Пузање у дубину (наставак)
03 Пузање у дубину (крај). 2-резови
04 Проналажење најкраћих путева (почетак)
05 Проналажење најкраћих путева (наставак)
06 Минимално разапињуће дрвеће
07 Минимални резови. Тражи подстрингове (почетак)
08Тражи подстрингове (наставак)
09Тражи подстрингове (крај)
10 Дрвеће суфикса (почетак)
11Суфикс стабла (завршетак). Низови суфикса (почетак)
12 Низови суфикса (завршетак)
13 Најдужи уобичајени поднизови. Приближна претрага подстринга.

или

Питхон језик

01Основе језика (1. део)
02Основе језика (2. део)
03Објектно оријентисано програмирање
04Управљање грешком
05 Дизајн и тестирање кода
06Рад са жицама
07 Модел меморије
08 Функционално програмирање
09 Приказ библиотеке (1. део)
10 Преглед библиотеке (2. део)
11 Паралелно рачунарство у Питхон-у
12Напредни рад са објектима

или

Обука језика Ц++, 2. део

Други део курса Ц++, који покрива напредне теме и језичке могућности.
01Програмирање са више нити. Синхронизовање нити помоћу мутекса и променљивих услова.
02Атомске варијабле. Ц++ модел меморије. Примери структура података без закључавања.
03Напредне технике метапрограмирања у Ц++. Метафункције, СФИНАЕ, концепти.
04Конкурентно програмирање, интеракција са мрежом.
05ллвм архитектура. Рад са стаблом за анализу Ц++. Развој алата за анализу Ц++ кода.

Трећи семестар

Да бирају

Обрада природног језика

„НЛП (Обрада природног језика) је подскуп ширег поља АИ који покушава да научи рачунар да разуме и обрађује сирове податке на природном језику. Већина данас доступних информација није структурирани текст. Као људима, наравно, није нам тешко да их разумемо (ако су на нашем матерњем језику), али нисмо у стању да обрадимо онолико података колико би машина могла да обради. Али како можете натерати машину да разуме ове податке и, штавише, да извуче неке информације из њих? Пре неколико година, на отварању АЦЛ (једна од главних, ако не и најзначајнија НЛП конференција) у Председнички говор Марти Херст признала је да више не може да даје студентима свог фаворита вежбање. Користећи ХАЛ 9000 као пример (један од примера вештачке интелигенције у научној фантастици), питала је студенте шта машина може да ради као ХАЛ, а шта још не може. Данас ово више није тако добра вежба, јер скоро све ово сада може да уради компјутер. Невероватно је колико брзо поље расте и колико смо постигли. На курсу ћемо покушати да схватите и осетите шта се дешава у свету. Који проблеми се решавају, како се то дешава; како неки статистички приступи (којима су курсеви о НЛП-у пре неколико година били скоро у потпуности посвећени) добијају нови живот и ново тумачење у неуронским мрежама, а који постепено одумиру. Показаћемо да НЛП није скуп парова (проблем, решење), већ опште идеје које продиру у различите проблеме и одражавају неки заједнички концепт. Такође ћете научити шта се дешава у пракси и када су који приступи применљивији. Ово је оно што радимо, оно што волимо, и спремни смо да то поделимо са вама :)"

01 https://lena-voita.github.io/nlp_course.html
02 https://github.com/yandexdataschool/nlp_course

или

Компјутерски вид

„Курс је посвећен методама и алгоритмима компјутерског вида, односно издвајању информација из слика и видео записа. Хајде да погледамо основе обраде слика, класификацију слика, претрагу слика по садржају, препознавање лица, сегментацију слике. Затим ћемо разговарати о алгоритмима за обраду и анализу видеа. Последњи део курса је посвећен 3Д реконструкцији. За већину проблема разговараћемо о постојећим моделима неуронских мрежа. На курсу се трудимо да обратимо пажњу само на најсавременије методе које се тренутно користе у решавању практичних и истраживачких проблема. Курс је углавном практичан, а не теоретски. Стога су сва предавања опремљена лабораторијским и домаћим задацима, који вам омогућавају да испробате већину метода о којима се говори у пракси. Рад се изводи у Питхон-у користећи различите библиотеке“.

01Дигитална слика и корекција тона
02Основе обраде слике
03 Спајање слика
04Класификација слика и тражење сличних
05Конволуционе неуронске мреже за класификацију и тражење сличних слика
06Откривање објеката
07Семантичка сегментација
08Пренос стила и синтеза слике
09 Видео препознавање
10Спарсе 3Д реконструкција
11 Густа 3Д реконструкција
12Реконструкција из једног оквира и облака тачака, параметарски модели

или

Бајесове методе у машинском учењу

01Бајесов приступ теорији вероватноће
02Аналитички Бајесов закључак
03Бајесов избор модела
04Аутоматско одређивање релевантности
05 Метод вектора релевантности за проблем класификације
06Пробабилистички модели са латентним варијаблама
07Варијацијски Бајесов закључак
08Бајесов модел раздвајања мешавине Гаусових
09 Методе Монте Карла са Марковим ланцима
10 Латентна Дирихлеова алокација
11Гаусови процеси за регресију и класификацију
12Непараметарске Бајесове методе

Четврти семестар

Обавезно

МЛ инжењерска пракса

Курс је пројектни рад на развоју МЛ пројеката у тимовима.

Истраживачка пракса МЛ

Курс представља рад на тимским истраживачким пројектима у области машинског учења.

Препоручени специјални курсеви

Дубоко учење

01Наставни материјал

Учење са појачањем

01Наставни материјал

Аутомобили који се самостално возе

Курс покрива основне компоненте технологије самовожње: локализацију, перцепцију, предвиђање, ниво понашања и планирање кретања. За сваку компоненту биће описани главни приступи. Поред тога, студенти ће се упознати са тренутним тржишним условима и технолошким изазовима.

01Преглед главних компоненти и сензора беспилотног возила. Нивои аутономије. Дриве би Вире. Самовозећи аутомобили као пословни производ. Начини процене напретка у стварању дронова. Основе локализације: гнсс, одометрија точкова, Бајесови филтери.
02Методе локализације лидара: ИЦП, НДТ, ЛОАМ. Увод у визуелни СЛАМ користећи ОРБ-СЛАМ као пример. Изјава о ГрапхСЛАМ проблему. Свођење ГрапхСЛАМ проблема на нелинеарну методу најмањих квадрата. Избор исправне параметризације. Системи са посебном структуром у ГрапхСЛАМ-у. Архитектонски приступ: фронтенд и бацкенд.
03Задатак препознавања у самовозећем аутомобилу. Статичке и динамичке препреке. Сензори за систем препознавања. Представљање статичких препрека. Детекција статичких препрека помоћу лидара (ВСЦАН, методе неуронске мреже). Коришћење лидара у комбинацији са сликама за откривање статике (семантичка сегментација слике, завршетак дубине). Стерео камера и добијање дубине из слике. Стикел Ворлд.
04Приказ динамичких препрека у самовозећем аутомобилу. Методе неуронске мреже за детекцију објеката у 2Д. Детекција заснована на приказу лидарског облака из птичје перспективе. Коришћење лидара са сликама за откривање динамичких препрека. Детекција аутомобила у 3Д на основу слика (уградња 3Д кутија, ЦАД модели). Динамичка детекција препрека заснована на радару. Праћење објеката.
05 Шеме вожње аутомобила: задњи точак, предњи точак. Планирање пута. Концепт конфигурационог простора. Методе графова за конструисање трајекторија. Трајекторије које минимизирају трзај. Методе оптимизације за конструисање трајекторија.
06Планирање брзине у динамичном окружењу. СТ планирање. Предвиђање понашања других учесника у саобраћају

Неуро-Бајесове методе

Курс се фокусира на примену Бајесових метода у дубоком учењу. На предавањима ће се говорити о употреби вероватносног моделирања за изградњу генеративних модела података, употреби конкурентских мреже за приближно закључивање, моделирање несигурности у параметрима неуронске мреже и неки отворени проблеми у дубокој обука.

01Стохастичко варијационо закључивање
02 Двоструко стохастички варијациони закључак
03Варијациони аутоенкодер, нормализујући токове за закључивање варијација
04Методе за смањење варијансе у моделима латентне променљиве
05 Процена односа густина дистрибуције, примена на примеру \алпха-ГАН
06Бајесове неуронске мреже
07Бајесова компресија неуронских мрежа
08Полуимплицитно варијационо закључивање