Тема
Лабораторні роботи
П'ять робіт на семестр, 20 аудиторних годин.
Методички у PDF за формою кафедри. Кожна містить мету, теоретичні відомості з посиланнями на першоджерела, порядок виконання та контрольні запитання до захисту. Порядок виконання задає, що зробити й що показати в звіті, але не як саме — спосіб розв'язання студент обирає сам. Код подають окремо — ноутбуком або скриптом із відтворюваним запуском і зафіксованими зернами генераторів.
Роботи 4 і 5 мають ще й розділ «Додаткові завдання» — вони не входять в аудиторний час і зараховуються як бонус.
Усі п'ять методичок одним архівом: labs-all.zip.
Робота 1 · Лінійна регресія та регуляризація на цінах житла
4 аудиторні години, 8 годин самостійної роботи.
Дані: Ames Housing — реальні продажі житла з категоріальними ознаками та пропусками різної природи; King County House Sales — продажі в окрузі Кінг із датою кожної угоди.
Повний регресійний конвеєр на даних, де більшість роботи — це підготовка ознак, а не модель. Треба знайти ваги аналітично й ітеративно, виміряти, наскільки завищує оцінку витік даних через препроцесинг, підібрати регуляризацію та пояснити, чого модель не врахувала на найгірших спостереженнях. Окремо — питання, яке виникає лише там, де в даних є час: чи вміє модель передбачати майбутнє, а не тільки заповнювати прогалини в минулому.
Робота 2 · Класифікація за сильного дисбалансу
4 аудиторні години, 8 годин самостійної роботи.
Дані: Credit Card Fraud — банківські транзакції з рідкісним шахрайством; Bank Marketing — 45 211 дзвінків португальського банку за 2008—2010 роки, згода на депозит у 11,7 % випадків.
Робота починається не з моделі, а з вибору метрики: тривіальний класифікатор тут виглядає майже ідеальним. Треба показати, чому ROC-крива та крива «влучність—повнота» дають різне враження, обчислити поріг під задану ціну помилки й порівняти способи роботи з дисбалансом. Друга половина додає до дисбалансу ще дві біди реальних даних: ознаку, значення якої стає відомим лише після події, і зміну самого розподілу з часом — частка згод за три роки кампанії зросла з 5 % до 52 %.
Робота 3 · Ядрові методи, кластеризація та зниження розмірності
4 аудиторні години, 8 годин самостійної роботи.
Дані: Human Activity Recognition — записи акселерометра й гіроскопа смартфона, сотні ознак; Gas Sensor Array Drift — показання газових сенсорів, зібрані десятьма партіями за 36 місяців.
Висока розмірність тут справжня, а не навчальна: з нею починають, показавши експериментально, як падає контраст відстаней. Далі — опорні вектори з ядром, кластеризація без міток і зведення до двох вимірів із чесною відповіддю на питання, що на таких картах інтерпретувати можна, а що ні. Наприкінці — другий набір, де прилад повільно старіє: та сама модель на випадковому розбитті й на розбитті за часом дає різні числа, і треба сказати, яке з них чесне.
Робота 4 · Нейронні мережі та згорткові архітектури
4 аудиторні години, 8 годин самостійної роботи.
Дані: EuroSAT — 27 000 супутникових знімків 64×64 у десяти класах землекористування.
Перцептрон реалізується двічі — власноруч і засобами фреймворку — із доведенням чисельної еквівалентності. Далі згорткова мережа й вимірювання, скільки насправді дає кожен інгредієнт сучасного рецепта: архітектура, ініціалізація, нормалізація, аугментація і перенесення навчання з попередньо навченої resnet18.
Робота 5 · Механізм уваги на текстах і генеративна модель
4 аудиторні години, 8 годин самостійної роботи. Цю роботу приймають до кінця залікового тижня, а не в межах семестру.
Дані: 20 Newsgroups — повідомлення з тематичних груп; Fashion-MNIST — зображення одягу.
Механізм уваги збирається власноруч і застосовується до справжніх текстів. Потребу в позиційних вкладеннях перевіряють прямим експериментом, а якість вивчених подань порівнюють із мішком слів. Наприкінці — варіаційний автокодувальник і перевірка стійкості до змагальних збурень.
Оцінювання
| Складова | Балів |
|---|---|
| Лабораторні роботи (5 × 10) | 50 |
| Модульна контрольна робота | 30 |
| Підсумковий контроль | 20 |
Стартовий семестровий рейтинг — 80 балів. Роботи з порушенням золотого правила — участь тестової вибірки у виборі моделі чи в масштабуванні — не зараховуються.
Силабус курсу з повним розподілом годин і політикою оцінювання — у PDF.