Přístupnostní navigace
E-application
Search Search Close
Bachelor's Thesis
Author of thesis: Bc. Lukáš Witpeerd
Acad. year: 2024/2025
Supervisor: Ing. Tomáš Goldmann, Ph.D.
Reviewer: Ing. Filip Orság, Ph.D.
Object detection has been one of the most active areas of machine learning. An ever-increasing emphasis is being placed on data protection, privacy and the efficient use of energy resources. This thesis focuses on the optimization of models and tasks associated therewith for fast local inference on neural network accelerators, with a focus on YOLOv8 and DETR networks. These networks have been, in the best case, quantized with a 0,4, 0,3 and 0,6mAP loss in precision in the case of the n, s and m variants of the YOLOv8 model. For DETR-ResNet-50, the loss in precision was 3,5mAP. The dataset used for evaluation is COCO val2017. This thesis also includes an optimized implementation of the NMS algorithm, which is 518% and 656% faster than other implementations when run on the AMD Ryzen 7900X and Rockchip RK3588 CPUs, respectively.
Object detection, Quantization, Neural network accelerators, Non-Maximum Suppression, YOLOv8, DETR, RT-DETR, NPU, Rockchip RK3588, Hailo-8
Date of defence
17.06.2025
Result of the defence
Defended (thesis was successfully defended)
Grading
A
Process of defence
Student nejprve prezentoval výsledky, kterých dosáhl v rámci své práce. Komise se poté seznámila s hodnocením vedoucího a posudkem oponenta práce. Student následně odpověděl na otázky oponenta a na další otázky přítomných. Komise se na základě posudku oponenta, hodnocení vedoucího, přednesené prezentace a odpovědí studenta na položené otázky rozhodla práci hodnotit stupněm A.
Topics for thesis defence
Language of thesis
Czech
Faculty
Fakulta informačních technologií
Department
Department of Intelligent Systems
Study programme
Information Technology (BIT)
Composition of Committee
doc. RNDr. Pavel Smrž, Ph.D. (předseda) Ing. Michal Hradiš, Ph.D. (člen) RNDr. Marek Rychlý, Ph.D. (člen) Ing. Tomáš Goldmann, Ph.D. (člen) Ing. Martin Žádník, Ph.D. (člen)
Supervisor’s reportIng. Tomáš Goldmann, Ph.D.
Celkově hodnotím práci jako zdařilou a odpovídající zadaným cílům. Výsledná knihovna pro provádění postprocessingu je prakticky využitelná. Student provedl experimenty s různými řešeními i na různých platformách, což přineslo cenné poznatky pro aplikační nasazení. Při závěrečném hodnocení studenta zohledňuji jeho aktivitu během řešení práce, přístup k jejímu dokončení i úroveň celkového zpracování. Studenta proto hodnotím známkou velmi dobře (B).
Bakalářská práce je zaměřena na dva základní úkoly. Cílem prvního z nich je vytvořit optimalizovaný algoritmus pro postprocessing výstupů z detekčních neuronových sítí. Druhý úkol se soustředí na vyhodnocení inference několika řešení jak na architektuře ARM, tak i x86. Zadání práce hodnotím jako průměrně obtížné. Práce je splněná ve všech bodech zadání.
Student si literaturu obstaral samostatně. S výběrem použitých zdrojů a studijních materiálů se ztotožňuji.
Aktivita studenta během řešení práce byla proměnlivá. Největší úsilí věnoval práci v týdnech před odevzdáním, zejména při zpracování technické zprávy. Na konzultace přicházel připravený, měl dobrý přehled o řešené problematice a klíčové otázky, zejména směřování práce a vzniklé problémy, se mnou aktivně řešil. Přístup studenta celkově hodnotím jako standardní.
Práce nebyla dokončena s dostatečným předstihem. S výslednou verzí jsem se seznámil, nicméně jsem ji z časových důvodů nemohl podrobně prostudovat. Student mé připomínky do práce zapracoval a potřebné části upravil.
O publikační činnosti ani případných oceněních studenta nemám informace.
Grade proposed by supervisor: B
Reviewer’s reportIng. Filip Orság, Ph.D.
Tato bakalářská práce je velmi zajímavá v kontextu momentální popularity AI a jejího nasazení v mnoha oblastech reálného světa. Pohled na výkon, spotřebu a kvalitu výstupu, který tato práce poskytuje, je užitečný pro nasazení neuronových sítí v malých systémech s nízkou spotřebou. Práce má drobné nedostatky, ale také mnoho pozitiv. Po celkovém zvážení všech aspektů hodnotím práci jako výbornou.
Evaluation level: obtížnější zadání
Samotné zadání se za určitých okolností dá zařadit mezi průměrně obtížná (volnost ve volbě akcelerátorů), ale obtížnost předloženého řešení tkví především v tom, že množina akcelerátorů, kterou autor testuje, je poměrně různorodá a je náročné vytvořit jednotný postup testování pro každou architekturu.
Technická zpráva má vhodně zvolenou strukturu. Styl některých kapitol je netradiční, ale plní svůj účel. Text práce je jednoduchý a snadno pochopitelný, kromě chybějícího vysvětlení zkratky "mAP", která se v textu hojně vyskytuje a jejíž význam není vysvětlen.
Jazykově je práce v pořádku, bez zjevných hrubých chyb. Po formální stránce má však práce několik nedostatků, např. chybné využívání desetinné tečky místo čárky (autor používá nejednotně obojí), již zmiňovaná zkratka "mAP", používání slova "pozpracování" (zřejmě odpovídá běžnějšímu anglickému "post-processing"), nebo chybějící jednotka v některých tabulkách (čas zřejmě myšlen v us). Práce je v tomto směru uspěchaná a mírně nedotažená.
Realizačním výstupem jsou skripty v jazyce Python a aplikace v C++, která obsahuje pro jednotlivé architektury také kód v asembleru, který využívá SIMD rozšíření procesorů (AVX-512 u x86 a NEON u Armu). Dalším výstupem jsou výsledky experimentů shrnující různé pohledy na výkon jednotlivých akcelerátorů pro vybrané neuronové sítě. Zdrojové kódy autora jsou řádně označené.
Výsledky práce poslouží jako východisko při výběru vhodného akcelerátoru neuronových sítí a bylo by možné je shrnout do článku a publikovat na vhodné konferenci.
Evaluation level: zadání splněno
Evaluation level: je v obvyklém rozmezí
Student k vypracování práce použil relevantní literární zdroje, které náležitě odcitoval. Převzaté části jsou odlišeny od vlastních úvah studenta. Citace jsou v souladu s citačními zvyklostmi. Seznam literárních odkazů obsahuje široké spektrum referencí na různé zdroje od online, přes články, až po knihy.
Grade proposed by reviewer: A
Responsibility: Mgr. et Mgr. Hana Odstrčilová