Project detail

Module for Automated Detection of User Interface Patterns in the Context of Agent Safety and UI Governance

Duration: 1.9.2026 — 31.8.2028

Funding resources

Ministerstvo průmyslu a obchodu ČR - Program TWIS - Podprogram 1 „Aplikovaný výzkum ve strategických oblastech“

On the project

Hlavním cílem navrhovaného projektu je návrh a implementace softwarového modulu, který umožní v reálném čase automatizovanou kontrolu bezpečnosti AI agentů ve vztahu k uživateli. Modul analyzuje chování AI agentů přes celé uživatelské rozhraní (UI - User Interface, tedy grafické prostředí, ve kterém se pohybuje uživatel i analyzovaný AI agent) a rozpoznává souvislosti mezi grafickými prvky a textovou komunikací.

Key words in English
AI Governance; Dark Patterns; UI Detection; Computer Vision; NLP; Multimodal AI; Agent Safety; Explainable AI; Digital Fairness Act; EU AI Act; Runtime Monitoring

Mark

FY02010285

Default language

Czech

People responsible

Říha Kamil, prof. Ing., Ph.D. - principal person responsible
Nimmerrichter Benjamin, Ing. - fellow researcher
Přinosil Jiří, Ing., Ph.D. - fellow researcher
Schimmel Jiří, doc. Ing., Ph.D. - fellow researcher
Sikora Pavel, Ing., Ph.D. - fellow researcher

Units

Department of Telecommunications
- responsible department (2.12.2025 - not assigned)
Department of Telecommunications
- beneficiary (2.12.2025 - not assigned)

Responsibility: Říha Kamil, prof. Ing., Ph.D.