Bachelor's Thesis

Machine Learning for Physical Modeling

Final Thesis 8.86 MB Appendix 7.21 MB

Author of thesis: Bc. Oleksandr Sokol

Acad. year: 2025/2026

Supervisor: Ing. Petr Hadraba, Ph.D.

Reviewer: Ing. Gabriel Cabaj

Abstract:

Machine learning has found many applications in recent decades, with physical modeling being no exception. This thesis presents a short overview of modern scientific machine learning techniques and then applies a selected method — physics-informed neural networks (PINNs) — to a specific physical model. PINNs incorporate physical knowledge into the training process, offering a compromise between traditional approaches and purely
data-based methods. The aim of this thesis is to test PINNs on the forward and inverse problems and demonstrate the effect spectral bias has on them. Several different PINN frameworks are examined and compared based on their average accuracy and training time.

Keywords:

Physics-informed neural network (PINN), scientific machine learning (SciML), harmonic oscillator, forward problem, inverse problem, spectral bias

Date of defence

11.06.2026

Result of the defence

Defended (thesis was successfully defended)

znamkaAznamka

Grading

A

Process of defence

Při obhajobě student nejprve prezentoval svou bakalářskou práci. Následně byly přečteny posudky a student odpověděl na dotazy oponenta. Poté členové komise položili následující otázky: - Porovnával jste sítě PINN s klasickou neuronovou sítí? Je takové porovnání v tomto případě možné? - Jaký framework jste pro simulaci použil? Na závěr byla obhajoba hodnocena jako výborná.

Language of thesis

English

Faculty

Fakulta strojního inženýrství

Department

Institute of Solid Mechanics, Mechatronics and Biomechanics

Study programme

Mechatronics (B-MET-P)

Composition of Committee

doc. Ing. František Šebek, Ph.D. (předseda)
Ing. Petr Procházka, Ph.D. (místopředseda)
Ing. Petr Krejčí, Ph.D. (člen)
doc. Ing. Stanislav Věchet, Ph.D. (člen)
Ing. Pavel Švancara, Ph.D. (člen)
Ing. Jan Králík, Ph.D. (člen)

Supervisor’s report
Ing. Petr Hadraba, Ph.D.

Pan Sokol se ve své bakalářské práci zaměřil na porovnání různých typů fyzikálně informovaných neuronových sítí. Oceňuji především komplexní srovnání metod pro různé typy úloh, od klasické dopředné úlohy přes úlohu inverzní až po kombinované a frekvenčně náročnější případy. Práce má velmi dobrou odbornou úroveň, student prokázal schopnost implementovat a systematicky vyhodnocovat několik variant PINN architektur a výsledky porovnat z hlediska přesnosti i výpočetní náročnosti. Kladně hodnotím také věcnou diskusi nad prezentovanými výsledky, včetně pojmenování silných a slabých stránek jednotlivých metod.

Za drobnou nevýhodu považuji skutečnost, že významnou část prezentovaných výstupů měl student hotovou již začátkem roku, avšak zbývající čas a prostor nevyužil k rozšíření práce směrem k praktičtější aplikaci nebo k ověření metody na reálnějším fyzikálním problému. Práce tak zůstává převážně na úrovni metodického a simulačního porovnání, byť provedeného velmi kvalitně.

Celkově práci hodnotím jako velmi kvalitní, po odborné i formální stránce dobře zpracovanou, se zřetelným vlastním přínosem studenta.
Evaluation criteria Grade
Fulfilment of requirements and objectives of assignment B
Working process, extent and suitability of applied methods A
Scholarly contribution and originality A
Ability to interpret achieved results and draw conclusions A
Applicability of results in practice or theory A
Logical arrangement of thesis and its layout A
Grafic layout, used style and language level A
Work with used sources including quotations A
Student's independence when working on the topic A

Grade proposed by supervisor: A

Reviewer’s report
Ing. Gabriel Cabaj

Predložená práca splnila všetky vytýčené ciele. Je napísaná v anglickom jazyku a má peknú grafickú aj štylistickú úroveň. Autor v prvej časti prehľadne spracoval prehľad metód strojového učenia pre fyzikálne modelovanie. Teoretická časť je prehľadná a svojím rozsahom dostatočná pre tento typ práce. Ako referenčný model si zvolil budený harmonický oscilátor s 1 stupňom voľnosti. Implementoval a porovnal celkom 7 variantov PINN na doprednej a inverznej úlohe. Experimentálny návrh je nutné vyzdvihnúť pretože dosiahnuté výsledky sú podložené dostatočnou štatistikou a jasne prezentujú výpočtovú náročnosť a presnosť danej varianty PINN. Následne autor popisuje vplyv spektrálneho biasu na PINN a prístup k jeho eliminácii s využitím tzv. Fourier Features. Pripomienky bez potreby reakcie: javí sa, že v častiach 3.5 a 3.6 chýbajú citácie, a odkazy na rovnice by patrili do zátvoriek. Pre obecnejší benchmark by možno stálo za zváženie použiť nelineárny oscilátor, kde by bolo možné prezentovať nedostatočne podmienenú úlohu a kde by aj inverzná úloha bola značne zaujímavá. Nič menej to určite neznižuje kvalitu predloženej práce a môže to byť podnet do ďalšieho štúdia problematiky. Práca je kvalitná a prináša prehľad, ktorý je určite užitočný. Doporučujem k obhajobe a hodnotím A/výborne.
Evaluation criteria Grade
Fulfilment of requirements and objectives of assignment A
Working process, extent and suitability of applied methods B
Scholarly contribution and originality B
Ability to interpret achieved results and draw conclusions A
Applicability of results in practice or theory A
Logical arrangement of thesis and its layout A
Grafic layout, used style and language level A
Work with used sources including quotations B
Topics for thesis defence:
  1. Spektrálny bias možno potláčať aj inak než Fourierovym mapovaním vstupu. Poznáte ďalšie prístupy? Napríklad periodické aktivačné funkcie (SIREN)? Ako by ste očakávali, že sa správajú v porovnaní s vašimi FF-PINN?
  2. Najlepšie výsledky dosahoval FF-PINN s parametrom sigma blízkym vlastnej frekvencii oscilátora. Ako by ste postupovali v reálnej úlohe, kde frekvenčný obsah riešenia nemusí byť vopred známy?

Grade proposed by reviewer: A

Responsibility: Mgr. et Mgr. Hana Odstrčilová