Cílem projektu je vývoj technik predikce výkonnosti paralelních systémů všech druhů a následné ladění výkonnosti paralelních aplikací běžících na reálných systémech. Predikční techniky budou vyvinuty pro architektury jak se zasíláním zpráv, tak se sdílenou pamětí a postaveny na kalkulu komunikujících sekvenčních procesů (CSP), v němž je popis ve srovnání s jinými prostředky (Petriho sítě, CCS, komunikující stroje X) nejstručnější. Projekt je zaměřen na použití celosvětově používaného simulačního nástroje Transim založeného na CSP v nejširším možném spektru reálných a realistických architektur SW/HW. Hlavní výsledky lze očekávat v predikci a ladění výkonnosti v číslicovém zpracování signálů a obrazů, v diskrétní optimalizaci a v řešení velkých, hustých i řídkých, systémů lineárních rovnic. Paralelní platformy relevantní pro tento projekt jsou svazky pracovních stanic a PC, symetrické multiprocesory SMP a vestavěné paralelní systémy s DSP včetně čipových multiprocesorů a úplných systémů na čipu (SoC). Ladění výkonnosti založené na predikci umožní rychlé srovnání různých architektur HW/SW multiprocesorů a slibné alternativy pak budou naprogramovány (v MPI nebo OpenMP kvůli přenositelnosti) a reálně testovány. Projekt se také bude věnovat obtížnému tématu spravedlivého porovnání výkonnosti zcela různých paralelních systémů, metodám vyrovnávání zátěže a redukci komunikační a synchronizační režie.

Description in English
The goal of the project is the development of performance prediction techniques for parallel systems of all  kinds and tuning the performance of parallel applications running on real machines. Prediction techniques are to be developed both for message passing as well as shared memory architectures and built upon the calculus of communicating sequential processes (CSP), which yields the most concise description if compared to other tools (like Petri nets, CCS, communicating X-machines, etc.). The project aims at utilization of CSP-based simulation tool Transim used world-wide in the widest possible spectrum of real and realistic SW/HW architectures. The main results are expected in performance prediction and tuning in digital signal and image processing, discrete optimization, and in solution of large dense and sparse systems of linear equations. Parallel platforms relevant for this project are clusters of  workstations and PCs, symmetrical multiprocessors SMP and DSP-based embedded parallel systems including chip multiprocessors and complete Systems on Chip (SoC). Prediction-based  performance  tuning will lead to the fast comparison of various multiprocessor HW/SW architectures  and promising alternatives will then be coded (in MPI or OpenMP for portability) and put under the real test . The project will also address  a difficult issue of fair performance comparison of entirely different parallel systems, methods of load balancing, and reduction of communication and synchronization overhead.

Keywords
Paralelní zpracování, simulace paralelních výpočtů, predikce výkonnosti, ladění výkonnosti

Key words in English
Parallel processing, simulation of parallel computing, performance prediction, performance tuning

GA102/02/0503

Czech

Dvořák Václav, prof. Ing., DrSc. - principal person responsible
Čejka Rudolf, Ing. - fellow researcher
Kutálek Vladimír, Ing., Ph.D. - fellow researcher
Očenášek Jiří, Ing. - fellow researcher
Schwarz Josef, doc. Ing., CSc. - fellow researcher
Staroba Jiří, Ing., Ph.D. - fellow researcher

Faculty of Information Technology
- responsible department (1.1.1989 - not assigned)
Supercomputing Technologies Research Group SC@FIT
- internal (15.2.2002 - 31.12.2004)
Faculty of Information Technology
- beneficiary (1.1.2002 - 31.12.2004)

SCHWARZ, J. Bayesovské evoluční algoritmy s aplikacemi v úlohách dekompozice a alokace, habilitační práce. Brno: Fakulta informačních technologií VUT v Brně, 2003. s. 1-124.
Detail

STAROBA, J. Parallel Performance Modeling, Prediction and Tuning. Brno: 2004. p. 0-0.
Detail

DVOŘÁK, V.; ŠVÉDA, M. Proceedings of the International IEEE Conference and Workshop ECBS'2004. Los Alamitos, CA: IEEE Computer Society, 2004. p. 0-0. ISBN: 0-7695-2125-8.
Detail

DVOŘÁK, V. Architektury a programování paralelních systémů. Brno: Nakladatelství Vysokého učení technického v Brně VUTIUM, 2004. s. 0-0. ISBN: 80-214-2608-X.
Detail

JAROŠ, J. Vývojové prostředky pro rychlé prototypování genetických algoritmů. Brno: Grantová agentura České republiky, 2004. s. 0-0.
Detail

DVOŘÁK, V. Optimizing Communication Architectures for Parallel Embedded Systems. In Design of Embedded Control Systems. Berlin: Springer Verlag, 2004. p. 225-234. ISBN: 0-387-23630-9.
Detail

SCHWARZ, J. Bayesovské evoluční algoritmy s aplikacemi v úlohách dekompozice a alokace, zkrácená verze habilitační práce. In Vědecké spisy VUT. Edice Habilitační a inaugurační spisy, sv. 110. Brno: Nakladatelství Vysokého učení technického v Brně VUTIUM, 2003. s. 1-32. ISBN: 80-214-2389-7.
Detail

ČEJKA, R.; DVOŘÁK, V.; STAROBA, J. Predicting performance of SMP clusters. In Distributed and Parallel Systems - Cluster and Grid Computing. Boston/London: Kluwer Academic Publishers, 2002. p. 38-45. ISBN: 1-4020-7209-0.
Detail

ŠVÉDA, M.; RATTRAY, C.; ROZENBLIT, J. Formal Specifications of Computer-Based Systems - J.UCS Special Issue. Journal of Universal Computer Science, 2004, vol. 10, no. 10, p. 1354-1356. ISSN: 0948-6968.
Detail

DVOŘÁK, V.; ŠVÉDA, M.; RATTRAY, C.; ROZENBLIT, J. Formal Specifications of Computer-Based Systems - J.UCS Special Issue. Journal of Universal Computer Science, 2004, vol. 9, no. 11, p. 1258-1260. ISSN: 0948-6968.
Detail

LAUMANNS, M.; OČENÁŠEK, J. Bayesian Optimization Algorithms for Multi-Objective Optimization. Lecture Notes in Computer Science, 2002, vol. 2002, no. 2439, p. 298-307. ISSN: 0302-9743.
Detail

OHLÍDAL, M.; SCHWARZ, J. Design of Group Communication for Regular and Irregular Networks. Mendel 2005 11th Internacional Conference on Soft Computing. Brno: Faculty of Mechanical Engineering BUT, 2005. p. 45-50. ISBN: 80-214-2961-5.
Detail

OHLÍDAL, M. Plánování skupinových komunikací v propojovacích sítích. Sborník příspěvků ze semináře Počítačové Architektury a Diagnostika. Praha: Fakulta elektrotechniky ČVUT, 2005. s. 129-134. ISBN: 80-01-03298-1.
Detail

KUTÁLEK, V. Modelování a predikce výkonnosti aplikačně-specifických multiprocesorových systémů. Počítačové architektúry & diagnostika PAD 2004. Bratislava: Slovenská akademie věd, 2004. s. 132-137. ISBN: 80-969202-0-0.
Detail

JAROŠ, J. Úloha plánování procesů na paralelním multiprocesorovém systému pomocí bayesovských optimalizačních algoritmů. Zborník príspevkov ze seminara Počítačové Architektury a Diagnostika. Bratislava: Slovenská technická univerzita v Bratislavě, 2004. s. 60-65. ISBN: 80-969202-0-0.
Detail

OHLÍDAL, M. Hybrid parallel simulated annealing using genetic operations. Zborník príspevkov ze seminara Počítačové Architektury a Diagnostika. Bratislava: Slovak Academy of Science, 2004. p. 48-53. ISBN: 80-969202-0-0.
Detail

GAŽAR, R. Neural Network Training using Genetic Algorithm. Mendel 2004 10th Internacional Conference on Soft Computing. Brno: Faculty of Mechanical Engineering BUT, 2004. p. 161-166. ISBN: 80-214-2676-4.
Detail

SCHWARZ, J.; JAROŠ, J. A PROBLEM KNOWLEDGE BASED BAYESIAN OPTIMIZATION ALGORITHM APPLIED IN MULTIPROCESSOR SCHEDULING. Mendel Conference on Soft Computing. Brno: Faculty of Mechanical Engineering BUT, 2004. p. 83-88. ISBN: 80-214-2676-4.
Detail

OHLÍDAL, M.; SCHWARZ, J. HYBRID PARALLEL SIMULATED ANNEALING USING GENETIC OPERATIONS. Mendel 2004 10th Internacional Conference on Soft Computing. Brno: Faculty of Mechanical Engineering BUT, 2004. p. 89-94. ISBN: 80-214-2676-4.
Detail

SCHWARZ, J.; OČENÁŠEK, J.; JAROŠ, J. Advanced Bayesian Optimization Algorithms Applied in Decomposition Problems. In Proceedings of ECBS 2004. Los Alamitos: IEEE Computer Society, 2004. p. 102-111. ISBN: 0-7695-2125-8.
Detail

Responsibility: Dvořák Václav, prof. Ing., DrSc.