Master's Thesis

Bayesian approaches to adaptive system identification

Final Thesis 3.22 MB Appendix 1.37 MB

Author of thesis: Ing. Ondřej Skalský

Acad. year: 2023/2024

Supervisor: Ing. Jakub Dokoupil, Ph.D.

Reviewer: doc. Ing. Straka Ondřej , Ph.D.

Abstract:

The paper deals with Bayesian identification of time variant normal regression models and provides four key algorithms. The first two algorithms are designed for the online regularized identification of a single regression model. Absence of the time evolution model is solved in both algorithmizations by a data-informed forgetting technique. The choice of the forgetting factor in the first algorithm is performed using Variational Bayesian approximation. The second algorithm determines the value of the forgetting factor by statistical decision making.

The second pair of algorithms treats the problem of time evolution of parameters as a sequence of switching normal regression models. In both of these offline algorithms which are based on the Variational Bayesian approximation, both the inference of the bank of model parameters and the activities of these models over the time of the experiment are iteratively performed. The actual number of models forming this bank is determined automatically. The difference between these algorithms lies mainly in the noise properties of the switched models.

All four algorithms are tested on a real system and in simulations. The paper is complemented by a short introduction to the Bayesian world, which presents the essential statistical techniques that are used. For completeness and continuity with the aforementioned algorithms, the offline and online identification of a time invariant normal regression model is also described.

Keywords:

Identification, Bayesian statistics, Probability, Normal regression model, Time variant parametric identification, ARX model, Mixture of normal regression models, Identification of mixture of normal regression models, Variational Bayesian approximation.

Date of defence

04.06.2024

Result of the defence

Defended (thesis was successfully defended)

znamkaAznamka

Grading

A

Process of defence

Student obhájil diplomovou práci. Komise neměla žádné námitky k řešené práci. V průběhu odborné rozpravy odpověděl na dotazy.

Language of thesis

Czech

Faculty

Department

Study programme

Cybernetics, Control and Measurements (MPC-KAM)

Composition of Committee

doc. Ing. Radovan Hájovský, Ph.D. (předseda)
doc. Ing. Zdeněk Bradáč, Ph.D. (místopředseda)
Ing. Jakub Dokoupil, Ph.D. (člen)
Ing. Zdeněk Havránek, Ph.D. (člen)
Ing. Karel Horák, Ph.D. (člen)
Ing. Tomáš Macho, Ph.D. (člen)

Supervisor’s report
Ing. Jakub Dokoupil, Ph.D.

Předložená diplomová práce se zabývá bayesovskou identifikací parametrů časově proměnného regresního modelu. Podrobněji je v práci analyzována kvalita sledování nemodelovaných změn parametrů dosažená jednotlivými algoritmizacemi na základě nepřesných měřeních zatížených šumem.
Student uvádí systematický přehled existujících algoritmů umožňujících kompenzaci absence modelu vývoje parametrů, jednotlivé algoritmy rigorózně odvozuje s použitím bayesovkých paradigmat a teorií optimalizace a provádí jejich zajímavé srovnání. Empirické porovnání jednotlivých algoritmů je realizováno v programu MATLAB/Simulink, a to na syntetických i reálných datech.

Výsledkem diplomové práce je podrobná analýza uplatnitelnosti dílčích algoritmů v nestacionárních systémech, která má mimořádný aplikační potenciál pro realizaci adaptivních řídicích systémů, detekci a lokalizaci poruch.
Po typografické stránce je práce zpracována na velmi dobré úrovni. Musím ocenit studentovu píli, samostatnost a schopnost porozumět náročné problematice, která významně přesahuje teoretický rámec studia.

Zadání bylo splněno. Diplomant prokázal své inženýrské schopnosti, práci doporučuji k obhajobě s hodnocením výborně. Points proposed by supervisor: 97

Grade proposed by supervisor: A

Reviewer’s report
doc. Ing. Straka Ondřej , Ph.D.

Posudek je přiložen ve formátu pdf. Points proposed by reviewer: 90

Grade proposed by reviewer: A

File inserted by the reviewer Size
Posudek oponenta [.pdf] 109,19 kB

Responsibility: Mgr. et Mgr. Hana Odstrčilová