Master's Thesis

Keyboard and Keys Image Recognition

Final Thesis 4.95 MB

Author of thesis: Ing. Jan Lorenc

Acad. year: 2022/2023

Supervisor: Ing. Jan Pluskal, Ph.D.

Reviewer: Ing. Ondrej Lichtner

Abstract:

The goal of this thesis is to create a solution for keyboard keys recognition to automate robotic writing on keyboards. Datasets for keyboard detection in an image, character detection in an image and post-processing correction of the character detection based on various keyboard layouts were created as prerequisites for this work. This research presents several approaches towards keyboard keys detection problem and selects the most suitable one. The chosen strategy is to split the problem into 3 phases which correspond to the prepared datasets. First of all, a separate keyboard detection is run. After that, characters are recognized in the detected keyboard region. These tasks are accomplished using neural networks and Canny edge detection technique. The last phase is the post-processing of the detection results (character correction, autocompletion of undetected characters, special keys distinction etc.). The results of each phase are evaluated. The contribution of the thesis lies in the creation of the datasets for keyboard and keys detection, and novel modular and extensible solution for the recognition process that yields very promising results.

Keywords:

machine learning, computer vision, object detection, recognition, neural networks, Canny edge detector, data augmentation, keyboard detection, character recognition

Date of defence

21.06.2023

Result of the defence

Defended (thesis was successfully defended)

znamkaAznamka

Grading

A

Process of defence

Student nejprve prezentoval výsledky, kterých dosáhl v rámci své práce. Komise se poté seznámila s hodnocením vedoucího a posudkem oponenta práce. Student následně odpověděl na otázky oponenta a na další otázky přítomných. Komise se na základě posudku oponenta, hodnocení vedoucího, přednesené prezentace a odpovědí studenta na položené otázky rozhodla práci hodnotit stupněm A.

Topics for thesis defence

  1. V práci sa zaoberáte detekciou rozloženia klávesnice počas post-processingu pre zvýšenie presnosti detekcie. Máte v pláne rozšíriť riešenie o iné rozloženia klávesníc, napríklad DVORAK? Ako by to zkomplikovalo riešenie?
  2. V návaznosti na predchádzajúcu otázku, aký je plán pre klávesnice s inými znakovými sadami (cyrilika, ázijské jazyky)?
  3. Který algoritmus jste použil pro detekci a jak jste zvolil jeho parametry?
  4. Zkoušel jste aplikaci v praxi?

Language of thesis

English

Faculty

Department

Study programme

Information Technology and Artificial Intelligence (MITAI)

Specialization

Information Systems and Databases (NISD)

Composition of Committee

doc. Ing. Radek Burget, Ph.D. (předseda)
doc. Ing. Petr Matoušek, Ph.D., M.A. (člen)
prof. RNDr. Alexandr Meduna, CSc. (člen)
RNDr. Marek Rychlý, Ph.D. (člen)
Ing. Vladimír Bartík, Ph.D. (člen)
Ing. Šárka Květoňová, Ph.D. (člen)

Supervisor’s report
Ing. Jan Pluskal, Ph.D.

Práce řeší problém detekce klávesnice a jednotlivých kláves z obrazu kamery robotické ruky. Práce byla oceněna na konferenci EXCEL@FIT. Dle studia SotA se jedná o unikátní a inovativní řešení. Implementace byla důkladně otestována a vyhodnocena. Výsledek bude nasazen v praxi ve firmě Y Soft.


Navrhuji hodnotit práci stupněm A jako výbornou.

Evaluation criteria Verbal classification
Information about assignment

Jedná se o zadání firmy Y Soft. Práce si klade za cíl rozpoznání klávesnice a kláves na různých typech zařízení a klávesnic. Dle provedeného SotA nebylo nalezeno dostupné řešení pro srovnání, proto hodnotím práci jako velmi obtížnou a inovativní.

Work with literature

Autor samostatně nalezl 37 referenčních zdrojů převážně kvalitní literatury a relevantních online materiálů. Byla nalezena pouze jedna práce řešící obdobný problém, proti které se autor relevantně vymezuje.

Activity during solution, consultations, communication

Student začal na tématu pracovat se značným předstihem a udržel si konstantní tempo během obou semestrů. Konzultace byly iniciovány na popud studenta, který byl vždy velmi dobře připraven.

Activity during solution, consultations, communication

Práce byla dokončena se značným předstihem a řádně konzultována.

Publication activity, awards

Autor se zúčastnil konference EXCEL@FIT, kde byl oceněn.

Points proposed by supervisor: 100

Grade proposed by supervisor: A

Reviewer’s report
Ing. Ondrej Lichtner

Celkovo prácu hodnotím na A. Jedná sa o kvalitné spracovanie aj technickej správy aj samotnej implementácie pre náročnú tému.


Súčasťou riešenia je aj vytvorenie datasetu, ktorý bol publikovaný na platforme Kaggle, ktorý je podľa slov študenta jediný voľne dostupný v kategórii klávesníc.


Študent svoju prácu prezentoval aj na konferencii Excel@FIT 2023 kde bola ohodnotená odbornou verejnosťou cenou Jiřího Kunovského.

Evaluation criteria Verbal classification Points
The difficulty of the assignment

Evaluation level: more difficult assignment

Zadanie vyžaduje rozsiahlejší priezkum do tématiky rozpoznávania objektov z obrazových dát. Zároveň v špecifickej problematike klávesníc, neexistujú jednoducho dostupné otvorené dátové sady a študent teda musel pripraviť vlastné.

Zadanie preto považujem za obtiažnejšie.

The extent to which the requirements of the assignment have been met

Evaluation level: assignment fulfilled

Všetky body zadanie boli splnené bez výhrad.

Extent of the technical report

Evaluation level: is within the usual extent

Text práce je v obvyklom rozsahu, je informačne bohatý a je vhodne doplnený obrázkami, ktoré pomáhajú pochopeniu textu.

Presentation level of the technical report

Technická správa je členená do logicky naväzujúcich kapitol štandardne usporiadaných do Teoretický rozbor "state of the art", Návrh a Implementácia, Vyhodnotenie. Všetok obsah je na správnom mieste, v poskytnutých informáciach sa dobre orientuje a je jednoducho pochopitelný.

100
Formal preparation of a technical report

Práca je písaná v angličtine na skutočne kvalitnej úrovni. Neobsahuje skoro žiadne preklepy, logické alebo štylistické chyby.

100
Work with literature

Študent v práci cituje z množstva relevantných zdrojov. Zoznam literatúry obsahuje 37 položiek. Odkazovaná literatúra obsahuje dobrý mix online zdrojov aj rôznych konferenčných alebo žurnálových článkov a kníh. V texte sú riadne odkazované.

100
Realisation output

Implementované riešenie je funkčné a bolo prezentované na osobnej konzultácii. Vytvorený kód je na vysokej úrovni, logicky zorganizovaný do modulov a tried s dedičnosťou tak aby bol modulárny a rozšíriteľný.

Riešenie je tiež plne zdokumentované dokumentačnými komentármi.

100
Usability of results

Práca bola vypracovaná ako firemné zadanie pre spoločnost Y Soft, podľa ich požiadavkov a má teda priame praktické využtie v kombinácii s platformou AIVA.

Topics for thesis defence:
  1. V návaznosti na predchádzajúcu otázku, aký je plán pre klávesnice s inými znakovými sadami (cyrilika, ázijské jazyky)?
  2. V práci sa zaoberáte detekciou rozloženia klávesnice počas post-processingu pre zvýšenie presnosti detekcie. Máte v pláne rozšíriť riešenie o iné rozloženia klávesníc, napríklad DVORAK? Ako by to zkomplikovalo riešenie?
Points proposed by reviewer: 100

Grade proposed by reviewer: A

Responsibility: Mgr. et Mgr. Hana Odstrčilová