Katedra teoretické informatiky a matematické logiky v letním semestru nabízí seminář zvaných přednášek na témata související s matematikou, filosofií a informatikou.

Oficiální stránky semináře

Přednášky se konají v úterý od 17:20, jednou za čtrnáct dní (1.3., 15. 3., 29. 3., 12. 4., 26. 4. a 10. 5. 2016) v učebně S8 na Malostranskom náměstí 25.

Limity schopností neuronových sítí – zdánlivý paradox

První přednášku (1. 3. 2016) přednese RNDr.Věra Kůrková, DrSc., vedoucí vědecká pracovnice Ústavu informatiky AV ČR.

Anotace

Úspěchy praktických aplikací neuronových sítí vedou k řadě teoretických otázek, které souvisí s geometrií vysoce dimenzionálních prostorů. V přednášce ukážeme zdánlivý paradox týkající se složitostních nároků nejrozšířenějšího modelu neuronové sítě, tzv. mělkých sítí s jednou skrytou vrstvou výpočetních jednotek. Pomocí vlastnosti koncentrace míry ukážeme, že realizace téměř každé uniformě náhodně vybrané úlohy mělkou sítí s populáními typy výpočetních jednotek vyžaduje složitost sítě rostoucí exponencionálně s dimenzí domény. Současně je ale obtížné tento existenciální výsledek doplnit konkrétními příklady takových úloh. Jediné příklady, které se nám podařilo sestrojit jsou založeny na pseudonáhodných posloupnostech, známých z teorie kódování. Tyto posloupnosti mají řadu vlastností náhodných posloupností a proto jsou využívány pro návrh „neviditelných“ povrchů vhodných pro kamufláž radarů a světelné difuzéry. Budeme diskutovat souvislosti tohoto paradoxu s centrálním paradoxem teorie kódování a tzv. no free lunch theorem.