Rozsáhlé předtrénované akustické modely se staly základem moderních řečových technologií a dosahují špičkového výkonu v celé řadě úloh. Jejich obrovský počet parametrů však představuje značné výzvy pro nasazení v prostředích s omezenými zdroji a kritickými pro bezpečnost. Tato disertační práce se  zabývá návrhem a evaluací redukce modelů a parametricky efektivních metodologií pro automatické rozpoznávání řeči (ASR) a identifikaci jazyka (LID). Výzkum se primárně zaměřuje na oblast řízení letového provozu (ATC), t.j., vysoce náročný scénář charakterizovaný omezeným jazykovým kontextem, silným šumem pozadí a vysokou diverzitou mluvčích, což z něj činí ideální testovací prostředí pro hodnocení robustního zpracování řeči v reálných podmínkách.

Abychom zmírnili výpočetní náklady bez snížení výkonu, práce se nejprve zaměřuje na specifické diskriminátory, které jsou implementovány v modelech typu XLS-R. Pro úlohu LID je tradiční diskriminátor typu TDNN nahrazen
faktorizovanou neuronovou sítí (TDNN-F), čímž se dosahuje 30–50% redukce parametrů při zachování plné diskriminační kapacity. Dále práce zkoumá
použití "Normalizing Flows" metody k modelování komplexních distribucí. To efektivně obchází tradiční Gaussovské předpoklady pravděpodobnostní lineární diskriminační analýzy (PLDA) a odstraňuje potřebu normalizace délky audio nahrávek. U dvou ze tří datových sad, "Flow" model konzistentně poskytoval vyšší přesnost než metoda PLDA.

Práce poté zkoumá strukturální kompresi samotných základních modelů. Faktorizace matic pomocí SVD dekompozice  je aplikována na dopředné vrstvy neuronových sítí ( v modelech XLS-R a Whisper), a to jak samostatně, tak ve spojení s adaptací LoRA. Na rozdíl od standardních metod, které omezují množství parametrů pouze během adaptace modelů, tato faktorizace zmenšuje velikost modelu jak během trénování, tak i inference. Účinnost navržených technik je testována na třech datových sadách pro detekci jazyka (LID)  a dvou sadách pro rozpoznávání řeči (ASR). U modelu XLS-R je množství parametrů sníženo o 23–50% s minimálním snížením přesnosti modelů. U Whisper modelů vede 28% redukce parametrů ke snížení WER o 1,8%, zatímco 50% redukce nemá žádný vliv na WER.