Master's Thesis

Detection of robotically generated signatures using multimodal analysis

Final Thesis 9.03 MB Appendix 36.91 kB

Author of thesis: Bc. Petr Čírtek

Acad. year: 2025/2026

Supervisor: Ing. Vojtěch Myška, Ph.D.

Reviewer: Ing. Martin Jonák, Ph.D.

Abstract:

A signature is an important biometric datum used to verify identity in a range of areas, including banking and law. With the availability of solutions that enable machine replication of signatures, the need to reliably distinguish a genuine signature from a machine-made one is growing. The aim of this thesis is research and development of a software solution using artificial intelligence models to detect machine-generated signatures.
For this purpose, a unique dataset was created containing RGB images as well as 3D structures of signatures obtained using a specialized forensic device. The combination of these modalities allows removal of noise and unwanted artifacts. Together with the application of data augmentation, this enabled training of more robust models.
This thesis presents several neural network methods based primarily on convolutional layers and clustering methods. The paper implements xAI techniques using GradCAM and SHAP methods. By comparing the results of the methods, the following were selected: a fine-tuned Siamese convolutional neural network trained on a Czech dataset with 100 % accuracy, a fine-tuned VGG-16 model with 95.8 % accuracy, shallow convolutional neural networks with 87.5 % accuracy, and a random forest classifier with 75 % accuracy. The results may be influenced by the size and variability of the test set, which can lead to an overestimation of the model’s ability to generalize learned patterns and over-fitting during training phase, as well as by the selection of manually extracted features.

Keywords:

Signature, Machine made signature, Signature verification, Deep learning, Neural network, Clustering, Convolution analysis, Siamese neural network, Feature extraction, xAI

Date of defence

09.06.2026

Result of the defence

Defended (thesis was successfully defended)

znamkaAznamka

Grading

A

Process of defence

Student prezentoval výsledky své práce a komise byla seznámena s posudky. Student obhájil diplomovou práci a odpověděl na otázky členů komise a oponenta. Otázky: 1. V kapitole 5.2.1 „Globální příznaky“ popisujete sadu příznaků, které lze využít při rozhodování o původu zkoumaného podpisu. Mohl byste uvést, který z těchto příznaků vykazuje nejvyšší diskriminační schopnost a umožňuje tedy nejspolehlivěji odlišit strojové podpisy od lidských? 2. Venovali ste sa v práci právnej dokaznosti? 3. Aka veľka by asi mala byt sada aby bol systém efektivnejší? 4. Prečo je návh konvolučnej siete podobný ako v bakalárskej práci?

Language of thesis

Czech

Faculty

Department

Study programme

Information Security (MPC-IBE)

Composition of Committee

Ing. Eva Holasová, Ph.D. (člen)
Ing. Petr Machník, Ph.D. (člen)
doc. Ing. Petr Šiška, Ph.D. (místopředseda)
JUDr. Pavel Loutocký, BA (Hons), Ph.D. (člen)
prof. Ing. Radim Burget, Ph.D. (předseda)
Ing. Petr Blažek, Ph.D. (člen)
Ing. Ondřej Pospíšil, Ph.D. (člen)
Ing. Jorge Truffin (člen)

Supervisor’s report
Ing. Vojtěch Myška, Ph.D.

Cílem práce bylo navrhnout, implementovat a experimentálně ověřit metodu pro detekci falšovaných podpisů vytvořených robotickými prostředky. Student navrhl a implemetoval zpracování dat, extrakci příznaků, AI modely, jejich vyhodnocení a analýzu pomocí metod vysvětlitelné umělé inteligence. Zadání práce bylo splněno v plném rozsahu. V průběhu řešení nastal problém spočívající v omezené dostupnosti trénovacích dat v důsledku procesu jejich získávání (sken 3D podpisů pomocí forenzního přístroje) a současně zajištění jejich strojové replikace pomocí specializovaného zařízení. Dosažené výsledky potvrzují správnost zvoleného přístupu. Při řešení práce postupoval systematicky, svědomitě a zodpovědně. Průběžně konzultoval a prokázal schopnost pracovat samostatně. Za velmi pozitivní považuji také jeho aktivní zapojení do řešení souvisejícího projektu bezpečnostního výzkumu zaměřeného na problematiku detekce strojově generovaných podpisů. Určité nedostatky lze spatřovat ve formální stránce textu práce (výskyt méně vhodných formulací, typografických chyb). Tyto nedostatky však zásadně nesnižují odbornou úroveň práce a jsou vyváženy aktivním přístupem studenta a dosaženými výsledky. Navrhuji hodnocení A/94 b. Points proposed by supervisor: 94

Grade proposed by supervisor: A

Reviewer’s report
Ing. Martin Jonák, Ph.D.

Autor se ve své diplomové práci s názvem Detekce roboticky generovaných podpisů pomocí multimodální analýzy zaměřuje na problematiku rozpoznávání falšovaných podpisů, které byly vytvořeny mechanickými prostředky (např. zařízeními Autopen nebo Plotter). Cílem je identifikovat rozdíly mezi přirozeným, dynamickým pohybem lidské ruky a strojovým, mechanickým pohybem, přičemž práce kombinuje pokročilé forenzní metody s metodami umělé inteligence. Konkrétně student navrhuje využití konvolučních neuronových sítí pro extrakci vzorů a metod shlukové analýzy.

Práce řeší aktuální téma týkající se zneužití moderních technologií k falšování podpisů, přičemž kladně hodnotím vytvořenou multimodální datovou množinu autentických a strojových podpisů.

Autorovi vytýkám zejména drobné nedostatky jako chybějící čárky v seznamech s odrážkami, nebo občasné těžkopádné formulace vět, nebo ne zcela vhodné používání termínu histogram. Nicméně tyto nedostatky nijak nesnižují celkovou úroveň práce, která je kompletní, logicky členěná a splňuje požadavky zadání. Topics for thesis defence:
  1. V kapitole 5.2.1 „Globální příznaky“ popisujete sadu příznaků, které lze využít při rozhodování o původu zkoumaného podpisu. Mohl byste uvést, který z těchto příznaků vykazuje nejvyšší diskriminační schopnost a umožňuje tedy nejspolehlivěji odlišit strojové podpisy od lidských?
Points proposed by reviewer: 89

Responsibility: Mgr. et Mgr. Hana Odstrčilová