Bachelor's Thesis

Prototype deployment of local LLM in the Královo Pole city district

Final Thesis 2.5 MB

Author of thesis: Andrii Bondarenko

Acad. year: 2025/2026

Supervisor: doc. Mgr. Kamil Malinka, Ph.D.

Reviewer: Ing. Zbyněk Lička

Abstract:

This thesis addresses the challenge of integrating Large Language Model capabilities into municipal administration while ensuring full compliance with GDPR data sovereignty requirements and the EU AI Act. Commercial cloud-based AI services are unsuitable for processing citizens' personal data due to cross-border transfer restrictions. The thesis proposes and implements a prototype system for the Brno-Královo Pole city district that deploys open-weight models (Qwen3-VL for multimodal document extraction and Llama 3.1 8B for text generation) on air-gapped on-premise infrastructure using Ollama. The prototype automates the land-lease application agenda, featuring a multimodal extraction pipeline with adaptive learning, Human-in-the-Loop validation, and automated legal document generation. Empirical evaluation on 11 real municipal processes demonstrates a five-fold reduction in active clerk time, extraction accuracy reaching 78.6% with adaptive rules, and AI-generated document acceptance confirmed by municipal clerks.

Keywords:

Large Language Model, LLM, local deployment, municipal administration, document extraction, Vision-Language Model, open-weight models, Human-in-the-Loop, GDPR, EU AI Act, Ollama, Qwen, Llama, FastAPI, Docker

Date of defence

15.06.2026

Result of the defence

Defended (thesis was successfully defended)

znamkaAznamka

Grading

A

Process of defence

Student nejprve prezentoval výsledky, kterých dosáhl v rámci své práce. Komise se poté seznámila s hodnocením vedoucího a posudkem oponenta práce. Student následně odpověděl na otázky oponenta a na další otázky přítomných. Komise se na základě posudku oponenta, hodnocení vedoucího, přednesené prezentace a odpovědí studenta na položené otázky rozhodla práci hodnotit stupněm A.

Topics for thesis defence

  1. Jak navržený systém řeší útoky na dodavatelské řetězce mimo použití jazykových modelů s veřejnými vahami, například s ohledem na použité knihovny a nástroje?
  2. Které další procesy by bylo možné automatizovat a bylo by možné k tomu snadno adaptovat aktuální řešení?
  3. Proč jste použil Vámi zvolený model?

Language of thesis

English

Faculty

Department

Study programme

Information Technology (BIT)

Composition of Committee

doc. Dr. Ing. Dušan Kolář (předseda)
doc. Dr. Ing. Otto Fučík (místopředseda)
RNDr. Marek Rychlý, Ph.D. (člen)
Ing. František Grézl, Ph.D. (člen)
Ing. Tomáš Goldmann, Ph.D. (člen)

Supervisor’s report
doc. Mgr. Kamil Malinka, Ph.D.

Při celkovém hodnocení nejvíce zohledňuji vysokou míru kvality zpracování realizačního výstupu, výborné zvládnutí přesahů do legislativy a vlastního provozu. Kladně hodnotím vysokou samostatnost a iniciativu studenta. Student splnil všechny body zadání ve velmi dobré kvalitě. Při řešení práce postupoval systematicky a velmi dobře si poradil s technickými překážkami. Práce byla po celou dobu pravidelně konzultována, kvalita textu je na výborné úrovni. Pozitivně hodnotím zpracování práce v angličtině. Jedná se o výbornou case study konkrétního nasazení LLM.

Evaluation criteria Verbal classification
Informace k zadání

Jedná se o průměrně náročné zadání, které vzniklo z potřeb MČ Královo Pole. Student měl najít vhodný případ užití pro nasazení LLM a dotáhnout vše až do praktického nasazení. Součástí bylo i zohlednění bezpečnostních a legislativních požadavků, které z prostředí plynou. Student řešení uchopil nadstandardně a zpracoval ho ve velkém detailu a kvalitě. Všechny body zpracoval důkladně a často za rámec původního záměru. Na četné bázi spolupracoval s MČ, velmi důkladně provedl analýzu procesů, nalezl vhodný usecase, pomáhal vybrat a pořídit vhodnou provozní infrastrukturu, velmi detailně zvládl zpracovat i související legislativní omezení. Výsledné řešení je nasazeno a integrováno do IT služeb MČ Královo Pole. Výsledné řešení přineslo výrazné zrychlení zpracování žádostí. Zpětná vazba odběratele je velmi pozitivní. Celé řešení je tak velmi komplexně uchopeno.

Práce s literaturou

Student aktivně vyhledával relevantní dostupnou literaturu a vhodně ji začlenil do své práce.

Aktivita během řešení, konzultace, komunikace

Po celou dobu řešení jsme měli pravidelné schůzky, na kterých byly konzultovány dílčí kroky řešení a celkový směr práce. Student byl vždy výborně připraven. Student taky práci aktivně a průběžně řešil s konzultantem ze strany MČ.

Aktivita při dokončování

Student obsah práce konzultoval průběžně a její definitivní obsah mi byl zaslán k připomínkování v dostatečném předstihu. Stihli jsme více iterací. Všechny mé připomínky k práci byly zapracovány.

Publikační činnost, ocenění

Student se přihlásil do soutěže Excel@FIT, bohužel nebyl vybrán mezi vystavovatele.

Points proposed by supervisor: 91

Grade proposed by supervisor: A

Reviewer’s report
Ing. Zbyněk Lička

Jedná se o kvalitně a důsledně zpracovanou práci, která se věnuje velmi aktuálnímu tématu a má praktický dopad. Student navrhl a implementoval funkční systém, přičemž se velmi důkladně zabýval nejen technickou stránkou řešení, ale také jeho legislativními a bezpečnostními aspekty. Za přínosné považuji zejména způsob, jakým je řešena průběžná adaptace systému bez trénování modelu, dále mechanismus sebeopravování pomocí změny teploty inference a také opatření proti obcházení nutnosti lidské kontroly.


Analýza problému i prezentace navrženého řešení jsou velmi důkladné. Text je místy až příliš rozsáhlý a prezentace některých částí je velmi detailní, nicméně obsahově práce působí uceleně a přesvědčivě.

Evaluation criteria Verbal classification Points
Náročnost zadání

Evaluation level: obtížnější zadání

Zadání považuji za obtížnější. K jeho úspěšnému řešení bylo zapotřebí porozumět řešené problematice a aplikovat ji do praxe ve formě funkčního systému s reálným dopadem. Současně bylo nutné zohlednit přísné legislativní požadavky, zejména s ohledem na zpracování dat a využití nástrojů umělé inteligence. Prakticky se jednalo o nasazení existujících nástrojů podložené hlubokou analýzou požadavků, a to jak uživatelských, tak legislativních.

Prezentační úroveň technické zprávy

Text práce se čte dobře a řešená problematika je prezentována srozumitelně. Vzhledem k rozsahu téměř 90 normostran je však technická zpráva velmi hutná a výrazně textově orientovaná. V některých částech by přehlednosti pomohlo doplnění vhodných obrázků nebo schémat, například v kapitole 4 při popisu pracovních postupů. Práce je obsahově velmi důsledná, místy však působí až příliš rozsáhle a prezentačně velmi detailně.

90
Formální úprava technické zprávy

Po formální stránce je práce v pořádku. Typografická i jazyková úroveň technické zprávy je dobrá. Drobnou výhradu mám k příloze C, kde příklady promptů místy přetékají napříč stránkami.

95
Realizační výstup

Student identifikoval nezbytné požadavky na implementovaný systém na základě konzultací s uživateli a analýzy legislativních požadavků. Na základě těchto požadavků zvolil vhodný proces pro automatizaci a vytvořil odpovídající návrh řešení. S ohledem na legislativní stránku zvolil přístup zahrnující lidskou kontrolu, která umožňuje vyhnout se obtížně splnitelným požadavkům vyplývajícím z Evropského aktu o umělé inteligenci.

Navržený systém student implementoval a nasadil. Z vyhodnocení vyplynulo, že nasazené řešení reálně přispělo ke snížení času potřebného pro ruční zpracování dokumentů. Kladně hodnotím také zahrnutí adaptivního učení, které nevyžaduje trénování modelu, což je vhodné i z hlediska souladu s GDPR. Volba použitých nástrojů je důkladně motivovaná a výběr jazykového modelu je podložen analýzou existujících benchmarků.

Samotný systém byl otestován na 11 dokumentech. Student ověřil, že navržený systém je schopen extrahovat informace z odevzdaných dokumentů a že se v této činnosti díky adaptivnímu učení postupně zlepšuje. Dále potvrdil schopnost systému vytvářet návrhy dokumentů a ověřil, že tyto činnosti urychlují práci úředníků. Součástí práce byla také bezpečnostní analýza.

100
Využitelnost výsledků

Výsledky práce byly otestovány v praxi. Navržený systém má praktický potenciál, protože řeší reálný administrativní proces a přispívá ke snížení času stráveného ručním zpracováním dokumentů. Návrh systému zároveň zahrnuje mechanismus adaptivního zlepšování, což přispívá k jeho udržitelnosti.

Rozsah splnění požadavků zadání

Evaluation level: zadání splněno

Zadání bylo splněno. Struktura práce odpovídá jednotlivým bodům zadání a kapitoly technické zprávy s nimi věcně korespondují. Student se věnoval principům velkých jazykových modelů a jejich nasazení, analýze požadavků, návrhu řešení, jeho implementaci, nasazení, testování i bezpečnostní analýze.

Rozsah technické zprávy

Evaluation level: přesahuje obvyklé rozmezí

Technická zpráva je rozsáhlejší a dosahuje téměř 90 normostran. Vzhledem k obtížnosti zadání a šíři řešené problematiky je však tento rozsah opodstatněný. Text je informačně bohatý a jednotlivé části práce přispívají k pochopení řešeného problému i navrženého řešení. Drobnou výhradu mám k rozšířenému abstraktu, který je vzhledem k rozsahu a obsahu práce poměrně stručný.

Práce s literaturou

Student pracuje s odbornou literaturou i relevantní legislativou, což odpovídá charakteru řešeného tématu. Výběr zdrojů je věcně propojen se zadáním práce. Výhrady mám ke zpracování bibliografických citací. U některých položek chybí ISBN nebo DOI, například u zdrojů [8] a [2]. Práce místy používá automaticky exportované citace bez doplnění náležitých údajů, které jsou zejména u online zdrojů povinné, například typ nosiče, URL nebo datum citování.

75
Topics for thesis defence:
  1. Které další procesy by bylo možné automatizovat a bylo by možné k tomu snadno adaptovat aktuální řešení?
  2. Jak navržený systém řeší útoky na dodavatelské řetězce mimo použití jazykových modelů s veřejnými vahami, například s ohledem na použité knihovny a nástroje?
Points proposed by reviewer: 90

Grade proposed by reviewer: A

Responsibility: Mgr. et Mgr. Hana Odstrčilová