Master's Thesis

Motion-controlled music synthesizer

Final Thesis 4.45 MB

Author of thesis: Ing. Radomír Bábek

Acad. year: 2025/2026

Supervisor: prof. Dr. Ing. Jan Černocký

Reviewer: Ing. Tomáš Trkal

Abstract:

Rainbow is a JUCE-based virtual synthesiser that allows full control through hand-tracking provided by the MediaPipe framework and gesture recognition using a custom multi-layer perceptron model. The application allows players to simultaneously control multiple oscillator-based instruments and shape their sound with real-time digital signal processing (DSP) effects. Each instrument can be moved through a virtual 2D space, changing its volume and stereo panning. The synthesiser allows playing in up to 6 octaves, while available tones can be limited to a certain range or a scale. Furthermore, Rainbow offers time-awareness and an integrated looper, encouraging experimentation and complex layering. The system requires a personal computer and an RGB camera, making it highly accessible.

Keywords:

synthesiser, music, JUCE, Mediapipe, hand-tracking, motion-control, gesture classification, DSP, musical instruments

Date of defence

24.06.2026

Result of the defence

Defended (thesis was successfully defended)

znamkaAznamka

Grading

A

Process of defence

Student nejprve prezentoval výsledky, kterých dosáhl v rámci své práce. Komise se poté seznámila s hodnocením vedoucího a posudkem oponenta práce. Student následně odpověděl na otázky oponenta a na další otázky přítomných. Komise se na základě posudku oponenta, hodnocení vedoucího, přednesené prezentace a odpovědí studenta na položené otázky rozhodla práci hodnotit stupněm A.

Topics for thesis defence

  1. Uveďte důvody využití TCP protokolu pro komunikaci mezi aplikací detekující uživatelská gesta a aplikací generující zvuk. Jaké jsou výhody a nevýhody oproti jiným zvažovaným protokolům?
  2. Jakým způsobem byly testovány jednotlivé zvukové moduly: generátor zvuku a zvukové efekty?
  3. Jak náročná by byla transformace aplikace na plugin pro DAW a případná adaptace na jiné platformy než macOS?
  4. Jaká je budoucnost navrženého nástroje?
  5. Jaká byla zpětná vazba od uživatelů?
  6. Na jakém vystoupení jste nástroj testoval?

Language of thesis

English

Faculty

Department

Study programme

Information Technology and Artificial Intelligence (MITAI)

Specialization

Computer Vision (NVIZ)

Composition of Committee

prof. Ing. Adam Herout, Ph.D. (předseda)
prof. Ing. Martin Čadík, Ph.D. (místopředseda)
doc. RNDr. Milan Češka, Ph.D. (člen)
prof. Dr. Ing. Pavel Zemčík, dr. h. c. (člen)
Ing. David Bařina, Ph.D. (člen)
Ing. Tomáš Milet, Ph.D. (člen)

Supervisor’s report
prof. Dr. Ing. Jan Černocký

Hodnotím zodpovědný a kontinuální přístup k práci, zábavný a kvalitně provedený hudební nástroj s neotřelým ovládáním, které potěší každého muzikanta. Práce je psaná kvalitní angličtinou, děkuji za radostnou bakalářskou práci. V případě kvalitní presentace u státnicové komise doporučuji návrh práce na Cenu děkana.

Evaluation criteria Verbal classification
Information about assignment

Zadání bylo definováno studentem s hlubokým zájmem o hudbu, audio efekty, UI a netradiční ovládání hudebních nástrojů

Activity during solution, consultations, communication

Práce byla dokončena včas, měl jsem možnost komentovat první verze a student vzal v úvahu mé připomínky. S konečnou verzí s formálnějším popisem některých částí, jsem velmi spokojen.

Publication activity, awards

Publikační činnost mi není známa, SW byl otestován hraním na reálném koncertě. Práce má potenciál stát se populární v komunitě hudebníků, hudebních producentů a audiovizuálních performerů.

Work with literature

Práci s literaturou považují za příkladnou -- student samostatně pracoval se zdroji z několika oblastí (hudební teorie, ovládání nástrojů, UI, zpracování signálů, real-time SW implementace, hudební aplikace), informaci ze zdrojů dokázal kreativně použít pro unikátní vlastní nástroj.

Activity during solution, consultations, communication

Oceňuji příkladnou aktivitu, pravidelnou komunikaci (na dálku během Erasmus stáže i osobně) a zodpovědnost, se kterou student k práci přistupoval – sledovat postup práce a pozitivní přístup k řešení netriviálních problémů bylo skutečné potěšení. Velmi kladně hodnotím snahu o dotažení řešení do konce, evaluaci několika hudebníky a zapracování jejich připomínek.

Points proposed by supervisor: 96

Grade proposed by supervisor: A

Reviewer’s report
Ing. Tomáš Trkal

Diplomová práce vykazuje vysokou technickou i odbornou úroveň. Student prokázal hluboké porozumění několika složitým oblastem, jako je strojové učení, rozpoznávání gest a zpracování zvukových signálů, a dokázal teoretické poznatky převést do návrhu a implementace vlastního softwarového syntetizátoru ovládaného gesty.


Text práce je přehledně strukturován do kapitol, které na sebe logicky a plynule navazují, dostatečně doplněn obrázky, diagramy a tabulkami a zároveň správně odkazuje na použitou odbornou literaturu.


Za menší nedostatek považuji skutečnost, že kapitola věnující se implementaci podrobněji nerozpracovává detaily implementace generátoru zvuku a jednotlivých zvukových efektů ani způsob jejich testování. Naopak velmi kladně hodnotím důraz na důkladné uživatelské testování a zaměření na optimalizaci latence jak jednotlivých modulů, tak celé aplikace.


Celkově hodnotím práci jako nadstandardně zdařilou a domnívám se, že má velký potenciál pro další rozšíření o nové funkcionality a pro reálné nasazení v oblasti hudební produkce.

Evaluation criteria Verbal classification Points Max. points
The extent to which the requirements of the assignment have been met

Evaluation level: assignment fulfilled

Diplomová práce naplňuje zadání v plném rozsahu. Výsledkem je funkční aplikace která byla podrobena důkladnému uživatelskému testování. Připomínky a podněty získané v průběhu testování byly následně vyhodnoceny a zapracovány do výsledného řešení. Aplikace splňuje všechny stanovené funkční požadavky.

Extent of the technical report

Evaluation level: is within the usual extent

Rozsah technické zprávy odpovídá běžným požadavkům kladeným na diplomové práce. Práce obsahuje dostatečné množství vhodně zvolených obrázků a tabulek, které účelně doplňují text a přispívají k jeho srozumitelnosti.

Presentation level of the technical report

Práce obsahuje (včetně úvodu a závěru) celkem osm kapitol, které na sebe velmi plynule a logicky navazují. Obzvláště zdařilá je úvodní teoretická kapitola, která přirozeným způsobem seznamuje čtenáře se základy teorie hudebních nástrojů, zvukové syntézy, digitálních hudebních nástrojů a efektů, a poskytuje tak pevný základ pro pochopení navazujících kapitol.

100 100
Formal preparation of a technical report

Formální úprava technické zprávy, až na pár velmi drobných prohřešků, odpovídá požadavkům kladeným na typografickou úpravu diplomových prací. Matematické rovnice i tabulky jsou správně vysázeny. Všechny obrázky v práci vynikají vysokou kvalitou.
Oceňuji, že student zvolil anglický jazyk, což přispívá k širšímu odbornému dosahu práce. Jazykovou správnost nedokážu posoudit s lingvistickou přesností, nicméně jsem nezaznamenal žádné gramatické ani stylistické chyby.

95 100
Work with literature

Práce s literaturou je na velmi dobré úrovni. Student se v textu průběžně odkazuje na 27 vhodně zvolených zdrojů, které tvoří převážně odborná literatura z oblasti digitálního zpracování zvuku, zvukových efektů, rozpoznávání gest a strojového učení.

100 100
Realisation output

Výstupem práce je funkční systém sestávající ze dvou aplikací komunikujících mezi sebou prostřednictvím TCP protokolu. První z nich pomocí webkamery rozpoznává gesta uživatele, druhá tato gesta využívá pro ovládání grafického uživatelského rozhraní, tedy pro manipulaci s ovládacími prvky a hraní na klávesy.

Práce v předstihu prošla důkladným uživatelským testováním. Zpětná vazba uživatelů byla zapracována, čímž došlo ke zvýšení kvality výsledného řešení. V textu práce bohužel není podrobněji popsán způsob ověření správnosti zpracování zvukových signálů, tedy výstupu generátoru zvuku a aplikace zvukových efektů.

Student navrhl a realizoval originální a přehledné grafické uživatelské rozhraní, které se elegantním způsobem vypořádává s nemalým množstvím ovládacích a vizualizačních prvků. Poněkud netradičně může působit výběr efektu pomocí kombinace tří po sobě jdoucích gest, avšak lze očekávat, že si uživatelé i toto ovládání během krátké doby používání osvojí.

95 100
Usability of results

Výsledná softwarová aplikace je inovativní a vykazuje nemalý potenciál pro reálné praktické využití.

Pro širší uplatnění by bylo vhodné rozšířit ji o možnost integrace jako zásuvný plugin do DAW a zajistit její podporu i pro uživatele jiných platforem než macOS.

The difficulty of the assignment

Evaluation level: very difficult assignment

Náročnost zadání hodnotím jako vysokou. Diplomová práce svým rozsahem i odborným zaměřením výrazně přesahuje rámec standardních diplomových prací. Student se musel vypořádat s problematikou několika pokročilých oblastí, konkrétně strojového učení, rozpoznávání gest a digitálního zpracování zvuku v reálném čase, a tyto oblasti úspěšně integrovat do jednoho komplexního systému.

Topics for thesis defence:
  1. Uveďte důvody využití TCP protokolu pro komunikaci mezi aplikací detekující uživatelská gesta a aplikací generující zvuk. Jaké jsou výhody a nevýhody oproti jiným zvažovaným protokolům?
  2. Jakým způsobem byly testovány jednotlivé zvukové moduly: generátor zvuku a zvukové efekty?
  3. Jak náročná by byla transformace aplikace na plugin pro DAW a případná adaptace na jiné platformy než macOS?
Points proposed by reviewer: 97

Grade proposed by reviewer: A

Responsibility: Mgr. et Mgr. Hana Odstrčilová