Detail předmětu

Introduction to Neural Models for AI

FIT-INAaAk. rok: 2026/2027

Jazyk výuky

angličtina

Počet kreditů

5

Učební cíle

Allow students to understand the fundamental building blocks of current generation AI models that are based on large language models and chat bots. The course builds theoretical concepts with practical sessions (jupyter notebooks, labs) incrementally leading to final tangible projects.

Základní literatura

Deep Learning - Foundations and Concepts. Springer https://link.springer.com/book/10.1007/978-3-031-45468-4
Deep learning. MIT Press. https://www.deeplearningbook.org/

Doporučená literatura

Machine Learning with PyTorch and Scikit-Learn. Packt Publishing Ltd. ISBN-10: 1801819319 ISBN-13: 978-1801819312. https://github.com/rasbt/machine-learning-book
Natural Language Processing with Transformers. O'Reilly https://github.com/nlp-with-transformers

Zařazení předmětu ve studijních plánech

  • Program BIT bakalářský 2 ročník, letní semestr, volitelný
  • Program BIT bakalářský 2 ročník, letní semestr, volitelný

Typ (způsob) výuky

 

Přednáška

26 hod., nepovinná

Vyučující / Lektor

Osnova

  1. Introduction to present-day AI
  2. Perceptron model 
  3. Word embeddings: purpose, training, interpretation
  4. Multi-layer perceptron (MLPs)
  5. Feedforward NN for Language Modelling
  6. Optimization in MLPs
  7. Recurrent NN for LM
  8. Transformer LM
  9. Fine-tuning pre-trained LMs
  10. Instruction tuning and Chain of thought
  11. Fine-tuning with human preferences
  12. Reinforcement learning - Agentic systems
  13. Poster session - project demonstrations (depending on number of students) or Guest lecture

Seminář

13 hod., nepovinná

Vyučující / Lektor

Projekt

12 hod., nepovinná

Vyučující / Lektor

Individuální příprava na přednášku

26 hod., nepovinná

Vyučující / Lektor

Individuální příprava na cvičení

13 hod., nepovinná

Vyučující / Lektor

Individuální příprava na vypracování projektu

24 hod., nepovinná

Vyučující / Lektor

Individuální příprava na závěrečnou zkoušku

24 hod., nepovinná

Vyučující / Lektor