Bachelor's Thesis

Noise analysis for deepfake speech detection

Final Thesis 1.91 MB

Author of thesis: Vojtěch Kocman

Acad. year: 2025/2026

Supervisor: Ing. Vojtěch Staněk

Reviewer: Ing. Anton Firc, Ph.D.

Abstract:

The rapid advancement of artificial intelligence has significantly improved the quality and accessibility of speech synthesis systems. These technologies introduce serious security risks, including voice phishing and identity spoofing. As a result, reliable methods for deepfake speech detection have become increasingly important. To address this problem, a detection system based on features extracted from the noise component of the speech signal was designed and implemented.

Keywords:

Audio forensics, deepfake speech detection, noise analysis, AVSspoof, VC, TTS, noise features

Date of defence

17.06.2026

Result of the defence

Not defended (thesis was not successfully defended)

znamkaFznamka

Grading

F

Process of defence

Student nejprve prezentoval výsledky, kterých dosáhl v rámci své práce. Komise se poté seznámila s hodnocením vedoucího a posudkem oponenta práce. Oponent hodnotil práci stupněm 4F, protože práce v tomto stavu nesplňuje požadavky kladené na bakalářskou práci. Některé body zadání nejsou splněny vůbec nebo pouze velmi okrajově. Chybí přehled relevantních detekčních metod, chybí srovnání s existujícími detektory, analýza šumu a akustických charakteristik je velmi povrchní a experimentální část je nedostatečně popsána i chybně interpretována. Student nedokázal vyvrátit výtky oponenta. Komise shledala nedostatky práce natolik závažné, že se práci rozhodla hodnotit jako nevyhovující.

Topics for thesis defence

  1. Jaké jsou aktuální relevantní přístupy k detekci deepfake audia a jak se Vaše práce od těchto přístupů liší? Existují i přístupy, které pracují s šumem a podobnými akustickými vlastnostmi?
  2. Jak probíhala analýza charakteristik deepfake a pravé řeči z hlediska rozdílů v šumu a akustických vzorcích?
  3. Proč byla zvolena právě tato metoda pro detekci? Je podle Vás nejvhodnější pro řešený problém?
  4. Proč byl zvolen právě dataset AVspoof2019 a proč nebyly použity novější datasety nebo soutěže, například ASVspoof 2021 nebo ASVspoof 5?
  5. Vysvětlete, co znamená metrika EER a co znamená hodnota EER okolo 50 % z hlediska funkčnosti detektoru.
  6. Jaký je vlastní přínos studenta? Co bylo vytvořeno samostatně a co bylo převzato z existující publikace nebo implementace?
  7. Proč jste využil zastaralé dnes již nevyužívané metody?

Language of thesis

English

Faculty

Department

Study programme

Information Technology (BIT)

Composition of Committee

prof. Ing. Martin Čadík, Ph.D. (předseda)
doc. Ing. Ondřej Ryšavý, Ph.D. (místopředseda)
Ing. Marcela Zachariášová, Ph.D. (člen)
Ing. Tomáš Goldmann, Ph.D. (člen)
Ing. Vojtěch Havlena, Ph.D. (člen)

Supervisor’s report
Ing. Vojtěch Staněk

Práce se zabývá velmi náročným a málo prozkoumaným tématem, jehož kvalitní zpracování by vyžadovalo výrazně rozsáhlejší rešerši, systematičtější přístup k práci a časté konzultace. Student sice vytvořil určitý experimentální postup a provedl základní vyhodnocení, výsledky však nejsou přesvědčivé a práce nenaplňuje očekávání daná zadáním. Za hlavní nedostatky považuji slabé pokrytí relevantní literatury a nedostatečné konzultace, z čehož vycházejí všechny navazující problémy včetně omezení experimentů na jeden málo úspěšný přístup bez širšího zkoumání alternativních metod. Z těchto důvodů považuji práci na hraně možnosti obhájení. Vzhledem k vysoké náročnosti tématu hodnotím stupněm E - dostatečně.

Evaluation criteria Verbal classification
Information about assignment

Zadání hodnotím jako velmi náročné. Téma je odborně hutné, výzkumně otevřené a vyžaduje dobrou orientaci v detekci hlasových deepfakes, forenzní analýze audia, zpracování šumu i akustických charakteristikách řeči. Práce se sice pokouší navrhnout a implementovat vlastní postup založený na analýze šumové složky signálu, avšak jednotlivé body zadání jsou naplněny spíše vzdáleně a v omezené míře. Student v experimentální části vyzkoušel v zásadě jeden přístup založený na metodě z roku 2001, jehož dosažené výsledky nejsou přesvědčivé. Matematický aparát působí na první pohled slibně, nicméně navržený postup nedosahuje dostatečné účinnosti a práce nezkoumá alternativní směry, například pokročilejší metody strojového učení nebo jiné moderní přístupy k extrakci a zpracování šumu. Text práce navíc není příliš logicky strukturovaný, což ztěžuje sledování postupu práce, zdůvodnění návrhu i interpretaci výsledků.

Work with literature

Práci s literaturou hodnotím jako nedostatečnou vzhledem k náročnosti tématu. Pokrytí relevantních zdrojů je nekompletní. Student se věnuje vybraným základním pojmům a metodám, avšak chybí širší a systematičtější zpracování současného stavu poznání v oblasti detekce hlasových deepfakes, forenzní analýzy, šumových a akustických artefaktů syntetické řeči i standardních detekčních metod. Vzhledem k výzkumnému charakteru zadání měla být rešerše podstatně hlubší a měla přímo podporovat volbu zkoumaných metod.

Activity during solution, consultations, communication

Aktivitu během řešení hodnotím jako nevyrovnanou a celkově nedostatečnou. Student práci dlouhou dobu nekonzultoval, poté byla přibližně po dobu jednoho až dvou měsíců jeho aktivita dobrá, následně však opět zhruba měsíc až dva před odevzdáním konzultace prakticky neprobíhaly. Tento přístup se negativně projevil na výsledné kvalitě práce.

Activity during completion

Závěrečná fáze práce nebyla dostatečně konzultována. Text práce se mnou nebyl před odevzdáním projednán, a proto nebyl prostor vůbec ovlivnit jeho formu.

Publication activity, awards

Nejsou.

Points proposed by supervisor: 50

Grade proposed by supervisor: E

Reviewer’s report
Ing. Anton Firc, Ph.D.

Práce podle mého názoru nesplňuje požadavky kladené na bakalářskou práci v tomto stavu. Některé body zadání nejsou splněny vůbec nebo pouze velmi okrajově. Chybí přehled relevantních detekčních metod, chybí srovnání s existujícími detektory, analýza šumu a akustických charakteristik je velmi povrchní a experimentální část je nedostatečně popsána i chybně interpretována.


Text práce působí odfláknutě a nesouvisle. Velká část práce je tvořena vzorci a technickými pasážemi, které nejsou dobře vysvětleny ani propojeny s řešeným problémem. Z práce není zřejmé, že student použitým metodám a metrikám skutečně rozumí.


Z těchto důvodů nepovažuji práci za dostatečnou a hodnotím ji stupněm F (40b).

Evaluation criteria Verbal classification Points
The difficulty of the assignment

Evaluation level: moderately difficult assignment

Zadání hodnotím jako průměrně obtížné. Student se měl seznámit s oblastí detekce deepfake audia, analýzou šumu a akustických charakteristik syntetické řeči a následně navrhnout a experimentálně ověřit detekční přístup. Zadání samo o sobě nepovažuji za nadstandardně obtížné, protože mohlo být řešeno s využitím existujících metod, datasetů a nástrojů. Vyžadovalo však pochopení základních principů zpracování audia, metod detekce syntetické řeči a korektní experimentální vyhodnocení.

Presentation level of the technical report

Prezentační úroveň technické zprávy je velmi slabá. Abstrakt ani rozšířený abstrakt nedostatečně vysvětlují řešený problém, motivaci práce, použitý přístup ani dosažené výsledky. Úvod neobsahuje citace a related work je nevhodně začleněna přímo do introduction.

Text působí spíše jako soubor vzorců a technických popisů převzatých z literatury než jako souvislá technická zpráva. Mnohé části postrádají kontext a není zřejmé, jak souvisejí s cílem práce. Teoretická část obsahuje velké množství formálních popisů, ale jen omezeně vysvětluje jejich význam pro navržené řešení.

Experimentální část je prezentována nepřehledně a postrádá řadu důležitých informací o použitých datech, metodice experimentů a interpretaci výsledků. Celkově se čtenář v práci obtížně orientuje a z textu není zřejmé, jaké jsou skutečné přínosy práce a jaké závěry lze z dosažených výsledků vyvodit.

55
Formal preparation of a technical report

Formální úprava práce je velmi slabá. Chyba je už na první straně, kde je uvedena čárka za jménem vedoucího. V práci se dále objevují nejednotnosti, jako je používání „spoofed nahrávky“ v rozšířeném abstraktu, nejasné zkratky v keywords bez vysvětlení, používání „figure“ s malým písmenem a další typografické nedostatky.

Na straně 4 je výrazné prázdné místo. V práci chybí vhodné obrázky a vizualizace, které by pomohly vysvětlit diskutované koncepty. I na místech, kde by obrázky výrazně pomohly, například při popisu zpracování audia nebo metod, je text tvořen převážně vzorci a technickými popisy.

Celkově působí práce formálně neupraveně a nehezky. Úprava, sazba a tok textu výrazně snižují čitelnost práce.

52
Realisation output

Realizační výstup nepovažuji za dostatečný a podle mého názoru neprokazuje splnění zadání. Zadání vyžadovalo studium detekce deepfake audia, analýzu šumu a akustických charakteristik pro detekci deepfake řeči a porovnání s existujícími detekčními metodami. Tyto části jsou však v práci zpracovány pouze okrajově nebo jim zcela chybí. Zejména nevidím dostatečný přehled aktuálních detektorů deepfake audia, srovnání s nimi ani systematickou analýzu toho, jaké šumové nebo akustické artefakty syntetická řeč obsahuje a jak je lze využít pro detekci.

Není jasné, co přesně student vytvořil sám a co převzal z existující publikace nebo implementace. Použitá metoda je založena na odborné publikaci, ale práce nevysvětluje přesvědčivě, proč byla zvolena právě tato metoda, zda je pro řešený problém vhodná, jak se liší od jiných aktuálních přístupů a jaký je její přínos pro studenta. Pro dopracování by bylo nutné explicitně oddělit převzatý popis metody, použitý kód/knihovny a vlastní implementační nebo experimentální přínos.

Experimentální část je popsána nedostatečně. Není jasné, na jakých datech experimenty probíhaly, kolik bylo vzorků, jak byla data rozdělena na trénovací a testovací části, jak probíhalo trénování, jaké parametry byly použity a proč jsou zvlášť řešeny TTS a VC. V práci se objevuje popis jednotlivých funkcí a kódu, který experimenty provádí, což spíše patří do dokumentace implementace než do technické zprávy. Technická zpráva by měla místo toho popsat experimentální metodologii, datové zdroje, nastavení experimentů a způsob jejich vyhodnocení.

Výsledky jsou prezentovány a interpretovány nesprávně. Tabulka 4.1 je nesrozumitelná a není dostatečně vysvětlena. Objevují se nejasné formulace jako „accuracy 0.0.67“. Za zásadní problém považuji tvrzení, že systém funguje na základě precision a recall nad 80 % pro spoofed speech, když současně práce uvádí EER okolo 40–50 %. Taková hodnota EER odpovídá chování blízkému náhodnému rozhodování a nelze ji interpretovat jako úspěšnou detekci. Vyhodnocení pouze jedné třídy pomocí precision a recall bez odpovídajícího kontextu je zavádějící.

Pro uznatelný výsledek by bylo potřeba doplnit korektní experimentální metodiku, vysvětlit všechny použité metriky, uvést confusion matrix, porovnat řešení s relevantními baseline nebo existujícími detektory a správně interpretovat dosažené výsledky. Dále by bylo nutné doplnit přehled aktuálních detekčních metod, diskutovat novější datasety a soutěže, například ASVspoof 2021 nebo novější, a vysvětlit výběr datasetu ASVspoof 2019.

V současném stavu realizační část neprokazuje funkčnost řešení ani splnění klíčových bodů zadání.

40
Usability of results

Využitelnost výsledků je velmi omezená. Vzhledem k nedostatečnému popisu experimentů, nejasnému přínosu studenta, absenci porovnání s existujícími detektory a chybnému vyhodnocení výsledků nelze spolehlivě posoudit, zda vytvořený systém skutečně funguje nebo zda je prakticky použitelný.

The extent to which the requirements of the assignment have been met

Evaluation level: assignment not fulfilled

Zadání podle mého názoru nebylo splněno v požadovaném rozsahu. Práce měla studovat detekci deepfake audia, šum a akustickou analýzu pro detekci deepfake řeči. Tyto části jsou však v práci zpracovány buď pouze okrajově, nebo prakticky chybí.

V práci nevidím dostatečný přehled současných detekčních metod ani relevantních prací, které se věnují detekci deepfake audia. Chybí také srovnání s existujícími detektory, což považuji za zásadní nedostatek vzhledem k bodům zadání. Práce se sice částečně dotýká šumu a syntetické řeči, ale pouze velmi povrchně a bez hlubší analýzy toho, jak konkrétní metody generování syntetické řeči šum nebo akustické artefakty vytvářejí a jak by je bylo možné využít pro detekci.

Výsledná metoda působí jako převzatý přístup z odborné publikace, přičemž není jasné, co přesně je vlastním přínosem studenta. Z práce mám dojem, že student především našel existující metodu a použil dostupnou implementaci, ale bez dostatečného vysvětlení, proč byla zvolena právě tato metoda, jak funguje, jak souvisí se zadáním a jaké jsou její výhody proti jiným aktuálním přístupům.

Extent of the technical report

Evaluation level: meets the minimum requirements only

Rozsah práce formálně odpovídá požadavkům, ale obsahově není využit vhodně. Velká část textu je věnována vzorcům, technickým popisům a detailům, které často nepomáhají pochopit řešený problém ani vlastní postup studenta. Přibližně tři strany jsou věnovány kódování audia a zpracování signálu, přičemž není jasné, proč je tato část v daném rozsahu relevantní pro řešenou práci.

Naopak části, které jsou pro splnění zadání zásadní, tedy přehled detekčních metod, analýza šumu a akustických artefaktů, popis datasetů, návrh experimentů, metodika trénování a interpretace výsledků, jsou zpracovány nedostatečně.

Work with literature

Citace jako takové jsou v práci částečně přítomny, ale způsob práce s literaturou nepovažuji za dostatečný. Mnoho částí působí stylem „tato sekce je založena na [X]“, což není dostatečné zpracování literatury v rámci vlastního výkladu. Text často působí jako převzatý technický popis z odkazovaných publikací, bez dostatečného vysvětlení a bez jasného propojení s cílem práce.

Práce také nedostatečně pracuje s aktuálním stavem poznání. Není jasné, proč byl použit dataset AVspoof2019, když existují novější a reprezentativnější datasety a soutěže, například ASVspoof 2021 nebo novější ročníky. V práci chybí přehled aktuálních přístupů k detekci deepfake audia a chybí i vysvětlení, jak se studentovo řešení vůči těmto přístupům vymezuje.

55
Topics for thesis defence:
  1. Jak probíhala analýza charakteristik deepfake a pravé řeči z hlediska rozdílů v šumu a akustických vzorcích?
  2. Jaké jsou aktuální relevantní přístupy k detekci deepfake audia a jak se Vaše práce od těchto přístupů liší? Existují i přístupy, které pracují s šumem a podobnými akustickými vlastnostmi?
  3. Jaký je vlastní přínos studenta? Co bylo vytvořeno samostatně a co bylo převzato z existující publikace nebo implementace?
  4. Proč byl zvolen právě dataset AVspoof2019 a proč nebyly použity novější datasety nebo soutěže, například ASVspoof 2021 nebo ASVspoof 5?
  5. Vysvětlete, co znamená metrika EER a co znamená hodnota EER okolo 50 % z hlediska funkčnosti detektoru.
  6. Proč byla zvolena právě tato metoda pro detekci? Je podle Vás nejvhodnější pro řešený problém?
Points proposed by reviewer: 40

Grade proposed by reviewer: F

Responsibility: Mgr. et Mgr. Hana Odstrčilová