Bachelor's Thesis

Online radicalization and extremism: How does the law (not) protect democracy?

Final Thesis 1.87 MB Appendix 5.89 MB

Author of thesis: Katarína Kúdelová

Acad. year: 2025/2026

Supervisor: Mgr. Jakub Vostoupal, Ph.D.

Reviewer: JUDr. Pavel Loutocký, BA (Hons), Ph.D.

Abstract:

This thesis examines online radicalisation as a multidimensional phenomenon shaped by psychological, social, and technological mechanisms and evaluates the legal frameworks designed to address the associated risks. The thesis examines the relationship between online radicalisation, disinformation, algorithmic recommendation systems, and platform governance, with particular emphasis on TikTok as a case study.

The theoretical part analyses key concepts including radicalisation, extremism, violent extremism, and disinformation. It explores how online environments may accelerate existing psychological and social dynamics through mechanisms such as the online disinhibition effect, echo chambers, filter bubbles, and the rabbit hole effect. Particular attention is devoted to the role of disinformation as both a by-product of algorithmic amplification and a deliberate instrument in coordinated hybrid operations.

The legal analysis examines the evolution of the European Union's approach to platform regulation, from voluntary self-regulatory initiatives to the binding obligations introduced by the Digital Services Act. The thesis evaluates the DSA framework with regard to systemic risk mitigation, transparency requirements, and researchers' access to platform data, while also discussing several practical challenges related to its implementation and enforcement.

The practical part consists of two complementary components. The first is the development of an OSINT toolkit implemented in Python using the Playwright browser automation framework. The toolkit supports automated metadata extraction and comment collection from TikTok profiles and individual videos, retrieving comment data by intercepting TikTok's internal API endpoint within the browser context. Collected data is stored in a structured JSON format designed to ensure consistency and reproducibility across experimental runs. The second component is a controlled observational case study examining recommendation dynamics using three newly created TikTok accounts exposed to distinct thematic categories related to political disinformation, pro-Russian propaganda, and extremist narratives.

The results show that TikTok's recommendation algorithm narrowed content feeds toward the trained thematic category within approximately 60 minutes of targeted interaction. Comment analysis revealed echo-chamber dynamics, with dissenting views receiving high reply volume but minimal approval, and cross-topic contamination was observed across thematic categories. The findings further suggest that algorithmic amplification can facilitate conditions associated with the early stages of online radicalisation, although radicalisation itself remains influenced by broader social and individual factors. The thesis concludes that while the DSA represents an important step towards greater platform accountability, significant challenges related to transparency, oversight, and algorithmic governance remain unresolved, particularly in the context of recommendation systems and algorithmic amplification.

Keywords:

algorithmic recommendation, Digital Services Act, disinformation, echo chamber, extremism, hybrid threat, online radicalisation, OSINT, rabbit hole effect, TikTok

Date of defence

16.06.2026

Result of the defence

Defended (thesis was successfully defended)

znamkaAznamka

Grading

A

Process of defence

Studentka prezentovala výsledky své práce a komise byla seznámena s posudky. Studentka obhájila bakalářskou práci a odpověděla na otázky členů komise a oponenta. Otázky: 1. Nechť autorka detailněji vysvětlí důvody, proč byla pro případovou studii zvolena právě platforma TikTok? 2. Je řešením transparentnosti algoritmů sociálních sítí jejich zveřejnění jednotlivými společnostmi?

Language of thesis

English

Faculty

Department

Study programme

Information Security (BPC-IBE)

Composition of Committee

prof. Ing. Radim Burget, Ph.D. (předseda)
doc. Ing. Lukáš Malina, Ph.D. (místopředseda)
Mgr. Jakub Vostoupal, Ph.D. (člen)
Ing. Martin Zukal, Ph.D. (člen)
Ing. Martin Jonák, Ph.D. (člen)
Ing. Michal Švento (člen)
Ing. Willi Lazarov (člen)

Supervisor’s report
Mgr. Jakub Vostoupal, Ph.D.

Studentka si v rámci své závěrečné práce zvolila téma zkoumající problematiku online radikalizace a extremismu v prostředí digitálních platforem a souvisejících možností právní ochrany demokratické společnosti. Dané téma považuji za mimořádně aktuální, ale též komplexní a náročné. To se ostatně zrcadlí v nadstandardním rozsahu práce. Předložená práce pak nejen, že splňuje všechny požadavky zadání, ale v řadě ohledů je i výrazně přesahuje.
Studentka v teoretické části zdařile propojuje psychologické, sociologické, technologické i právní aspekty tématu, systematicky a přehledně pracuje s rozsáhlým množstvím odborných zdrojů, věnuje se mechanismům doporučovacích algoritmů či rabbit hole efektu a představuje detailní právní analýzu zahrnující kritické hodnocení Aktu o digitálních službách, jeho implementačních limitů a vztahu k základním právům v českém a evropském kontextu.
Komentář konzultanta: "V praktické části pak studentka vyvinula funkční OSINT nástroj v jazyce Python s využitím frameworku Playwright pro automatizovaný sběr metadat a komentářů z platformy TikTok. Nástroj umožňuje parametrizaci přes CLI, vhodně zachytává komentáře přímo přes interní API rozhraní a ukládá data ve strukturovaném formátu JSON. Kromě toho nástroj obsahuje konfigurovatelné prodlevy mezi požadavky a adaptivní logiku opakování, což zvyšuje odolnost vůči rate limitingu."
Vyvinuté řešení je plně funkční, rozšiřitelné a uplatnitelné v praxi, což ostatně dokazuje i provedená případová studie zaměřená na fungování doporučovacích mechanismů platformy TikTok, jejíž výsledky doplňují zjištění z teoretické a právní části.
Práce je zpracována na výborné obsahové, formální i jazykové úrovni, přičemž studentka přistupovala k práci mimořádně svědomitě a systematicky, průběžně konzultovala a projevovala vysokou míru samostatnosti. Výsledky práce navíc posloužily jako základ konferenčního příspěvku předloženého na Student EEICT 2026, kde příspěvek obsadil třetí místo. Jedná se o nadprůměrnou závěrečnou práci, která v řadě aspektů překračuje běžné požadavky kladené na bakalářské práce. Points proposed by supervisor: 98

Grade proposed by supervisor: A

Závěrečná práce se zabývá problematikou online radikalizace a extremismu v kontextu fungování digitálních platforem a právních nástrojů určených k ochraně demokratické společnosti. Téma považuji za mimořádně aktuální a společensky velmi významné.
Práce je zpracována v anglickém jazyce, což vzhledem k povaze tématu považuji za vhodné. Současně je třeba ocenit její nadstandardní rozsah, který odpovídá šíři a komplexnosti zkoumané problematiky. Autorka prokázala schopnost pracovat s rozsáhlým množstvím odborných zdrojů a propojila technické, společenské i právní aspekty tématu. Velmi pozitivně hodnotím zejména komplexnost zpracování, míru detailu jednotlivých analýz a propracovanost praktické části. Za přínosné považuji jak vytvoření vlastního OSINT nástroje pro sběr dat z platformy TikTok, tak realizaci případové studie zaměřené na fungování doporučovacích algoritmů. Práce obsahuje řadu vlastních zjištění, která vhodně doplňují teoretickou část. Drobnou výhradu mám k nedostatečně odůvodněnému výběru platformy a článků v případové studii (jedná se ale spíše o detail).
Cíle práce byly jednoznačně splněny. Jedná se o mimořádně kvalitní a nadprůměrnou práci, která podle mého názoru v řadě aspektů překračuje běžné požadavky kladené na bakalářské práce. Topics for thesis defence:
  1. Nechť autorka detailněji vysvětlí důvody, proč byla pro případovou studii zvolena právě platforma TikTok?
Points proposed by reviewer: 96

Grade proposed by reviewer: A

Responsibility: Mgr. et Mgr. Hana Odstrčilová