Bureš: Vznešené myšlenky v praxi nemusí fungovat

Nahlédl do pracovní rivality v americké NASA, prošel i zkušenostmi ve Švédsku a Německu, nedá ale dopustit na atmosféru v domovském Matfyzu. „Ohromně si vážím toho, že u nás na fakultě můžu zajít za kýmkoliv a říct mu o radu k tématu, ve kterém se potřebuji přiučit. V Evropě se ještě nesnažíme na dřeň soutěžit přes mrtvoly, jak je tomu v USA nebo v Číně,“ říká odborník na vestavěné systémy Tomáš Bureš.

Pracujete na katedře distribuovaných a spolehlivých systémů. Jak byste laikovi popsal svoji práci?

Já bych řekl, že se snažíme spolupracovat se společnostmi na tom, jak organizovat software větších systémů tak, aby se nesesypal. V okamžiku, kdy systém dosáhne určité velikosti, tak se mění pravidla hry. Těch důvodů je hrozně moc a jsou převážně technické.

A kdo na tato pravidla hry dohlíží?

V softwaru je na to role, které se říká softwarový architekt, a to je právě naše vědní téma. To pojmenování architekt není vůbec náhodné, stejně jako ve stavitelství i tady architekt zastřešuje to, že se vybuduje určitý systém, ve kterém se budou všichni cítit dobře. Důležité je postarat se o to, aby všechny věci zapadly do sebe a vzniklo něco, co je pro všechny použitelné.

Vzpomeňte si na zhroucení digitalizace stavebního řízení. To je úplně klasický případ velkého softwaru, který musí fungovat napříč pobočkami, musí se to napojit na vše ostatní, máte u toho spoustu uživatelů, kteří logicky nejsou počítačoví experti, a je třeba aby se ten systém choval co uživatelsky nejjednodušeji. Navíc se často ukazuje, že to co nadesignujete pro pět uživatelů, najednou pro 50 tisíc bude fungovat jinak, i když je ta funkcionalita stejná.

Vaší specializací jsou vestavěné (embedded) systémy. Představte nám je.

Vestavěné systémy jsou systémy, které potkáváte už v rámci nějakých zařízení. Když si dnes sednete do auta, tak v něm už dnes máte okolo 100 mikropočítačů. Stejně jako víceméně v každé libovolné elektronice. Jsou navržené k tomu, aby plnily jednu účelovou věc a je podstatné, aby byly co nejmenší a spotřebovávaly co nejméně energie.

U aut jsou například systémy, které musí fungovat v podstatě neustále. To, že můžete k autu přijít a zmáčknutím ovladače si otevřete dveře, znamená, že tam je nějaký mikropočítač, který je neustále v pohotovosti. musí být připraven na okamžik kdykoliv auto otevřít. Ale teď si představte, že necháte auto venku nebo v garáži tři týdny – takže zároveň potřebujete, aby vám ten systém za tu dlouhou dobu nevyplýtval autobaterii. To znamená, že je optimalizovaný na to, že bere strašně málo elektřiny.

Staromilci teď asi nostalgicky zavzpomínají na dobu, kdy auta nebyla tolik závislá na elektronice.

Dnešní automobily samozřejmě umí fungovat i ve chvíli, kdy je nějaký z těch systémů vyřazený, dnešní auto je poměrně sofistikovaný systém. A ona se ta sofistikovanost přenáší i na ty jednotlivé malé subsystémy. Každá komponenta o sobě umí říct, jestli dobře funguje, případně občas umí říct, co na ní konkrétně nefunguje. Když přijedete do servisu, tak technici připojí k autu konektor, a auto prozradí, co všechno v něm nefunguje správně. A dnes tyhle subsystémy zvládnou sdělit nejen, co se jim nezdá na jejich funkcích, ale umí upozornit i na nedostatky ostatních systémů.

Dnes už systémy aut kontrolují i samotné řidiče - jestli mají zavřené dveře, zda jsou připoutáni. Dočkáme se ale někdy skutečně plošného zavedení autonomního řízení?

Největší brzdou autonomního řízení je otázka právní odpovědnosti při způsobené nehodě. Určit, kdo bude zodpovědný. To je podle mě důvod, proč to ještě není rozšířené. Protože ty systémy budou chybovat, to je nevyhnutelné, protože se stále učí. I lidský řidič chybuje, jenže v jeho případě se dá okamžitě ukázat prstem na viníka. A navíc jako člověk nesete kůži na trh s rizikem, že se taky můžete zabít, když chybujete. Systém tuhle zodpovědnost nemá. A to je ten největší problém.

My si teď hrajeme v embedded systémech s takovými menšími věcmi jako je například rozpoznávání gest. A vždycky tam máte nějakou míru chybovosti. Vždycky některá ta gesta budou tak jako napůl provedena. A když jsme přemýšleli nad tím, jakým způsobem to právě uchopit z hlediska spolehlivosti, tak jsme nedošli k ničemu lepšímu, než že si budeme definovat nějakou sadu modelových případů, a naše spolehlivost bude v tom, že řekneme na tomhle datasetu půjde maximálně 1% chyby nebo 0,5%.

A s tímhle se potýkají automobilky. Dokud se nezmění legislativa, tak autonomní řízení se nezavede. Je třeba si taky uvědomit jednu věc – autonomní řízení se dnes testuje ve velmi dobře definovaném prostředí. A v momentě, kdy s ním vyjedete tady na okresku na Vysočině, kde chybí část krajnice, za špatného počasí, a před vámi nečekaně přeběhne zajíc…

Automobilový průmysl je odvětví, se kterým se při vašem výzkumu asi setkáváte nejčastěji.

Dá se říct, že ano. Vždy máte nějaké tradiční partnery do projektů, s kterými se setkáváte a tak trochu pronikáte do praxe. Jednou z největších bolestí výzkumu je, že častokrát ty věci nemají přímou aplikaci, a tím bývá jejich impakt vlastně nulový. Já si neskutečně vážím lidí, kteří pracují na Matfyzu a celkově v základním výzkumu, potkávám se s nimi na vědecké radě. A vždy když tam někdo začne povídat na profesorské nebo docentské přednášce o tom, co dělá, tak mi spadne čelist, to opravdu klobouk dolů. Nicméně si myslím, určitá společenská povinnost jakéhokoli výzkumu je mít společensky impakt.

Častokrát se stane, že když začnete spolupracovat s nějakou firmou na aplikovaným projektu, tak najednou zjistíte, že věci, které vám přišly triviální, v praxi triviální nejsou, protože tam jsou přesně omezující podmínky, které vás nikdy nenapadly. A že vaše vznešené myšlenky jsou úplně k ničemu, protože oni prostě řeší jiné problémy. A to je vždycky taková velká srážka s vlakem.

To je mimochodem další věc, která je určitým způsobem nebezpečná při učení. My samozřejmě učíme studenty software, a jak navrhovat systémy, jenže na rovinu - jak můžete učit navrhovat velký systém, když jste nikdy žádný sám nepostavil? A proto je aplikovaný výzkum hrozně důležitý, protože se alespoň zprostředkovaně nebo částečně napřímo setkáváte s reálnými problémy. Najednou máte možnost jít do fabriky a pracovat s vývojáři na tom, co skutečně dělají.

Nedávno jsem četl, že v Číně vzniká městečko, kde budou jezdit autonomní vozy, domy bude řídit chytrá domácnost a vše na ulici bude ovládat počítač. Je tohle budoucnost vestavěných systémů?

Vestavěné systémy do určité míry mají schopnost optimalizovat leccos. Já si třeba myslím, že kdyby se v některých úsecích zavedlo autonomní řízení, tak se najednou ukáže, že tam potřebujete polovinu dopravní infrastruktury, protože ten systém se dokáže lépe koordinovat a nedělá zběsilé věci jako lidští řidiči. Dopravní zácpy totiž zpravidla vznikají tak, že někdo prudce zabrzdí, což se přenese na řidiče za ním, a najednou všichni zastaví. Tohle by se v těch systémech nestávalo, ony by dokázaly mnohem efektivněji využít dopravní infrastrukturu. Jsem přesvědčen, že v momentě, kdyby se zavedlo povinně autonomní řízení, tak zmizí dopravní zácpy.

Jenže pak je tu další aspekt - do jaké míry chcete na ty systémy spoléhat? Protože zákonitě se časem objeví nějaký výpadek, a najednou to celou společnost zcela paralyzuje. Stačí vzpomenout na přerušení dodavatelských řetězců během covidu. Ukázalo se, že příliš mnoho firem spoléhá na import z Číny, a když se náhle přeruší, tak celá globální ekonomika jde „do kytek“.

Nejsme už příliš závislí na všech systémech okolo?

Závislí určitě jsme. A samozřejmě je to jedna z věcí, která nás trápí i jako pedagogy. My bychom vlastně potřebovali začít trochu jinak učit. Dříve bylo učení o memorování, ale to už přece není třeba, když si všechno najdete po dvou klicích na wikipedii. Teď už by to mělo být více o sbírání a třídění informací. 

No jo, ale v době, kdy existují jazykové modely, tak už nemáte potřebu informace ani sbírat ani třídit, protože vy vlastně jenom zadáte dotaz a ten model to na vás vysype. Takže teď už to zase není o schopnosti vyhledávání a třídění informací, ale o schopnosti ověřování informací a kritického myšlení. Teď už mi ten model je schopen nabídnout různé alternativy, ale já musím rozeznat, která z nich je ta uvěřitelná.

Jaký máte názor na schopnosti dnešních jazykových modelů?

Samotný prazáklad umělé inteligence, což jsou v podstatě neuronové sítě, je znám už desítky let. Když jsem nastupoval na doktorát (někdy v roce 2000), tak už to bylo vlastně skoro jako uzavřená věc. Ta teorie byla už nějak vyzkoumaná, nebylo na tom moc co dělat, a ukazovalo se to trošku jako slepá větev. Protože to bylo výpočetně náročné, a nikdo to neměl pořádně spočítat. A pak se najednou objevily výpočetní prostředky, grafické karty apod a ukázalo se, že lidi najednou uměli ten problém přeformulovat tak, aby se to dalo dobře a rychle spočítat. Najednou se objevily všechny ty toolboxy, které uměly rozpoznávat obrázky a bylo jednoduché je nainstalovat. A pak se to zase začalo dostávat do stavu stagnace.

A pak se objevily jazykové modely jako ChatGPT. Najednou jste měl něco, s čím jste si mohl normálně povídat, a bylo to schopné dělat logickou linku. Můžete mu zadat i těžký logický problém o ono ho opravdu správně zdůvodní. A to je vážně fascinující a nebudu zastírat, že nás to vlastně zaskočilo. My to teď jakoby běžně používáme, naskočili jsme na ten vlak, ale kdybyste se mě zeptal před deseti lety, tak bych vám řekl, že je nesmysl, aby počítače zvládly takhle přemýšlet.

Můžete se s nimi bavit intelektuálně o věcech, které si přečtete, protože to je to, co s čím oni umí pracovat. Ale na druhou stranu se ukazuje, že je pro ně velmi těžké napodobit nějakou praktickou zkušenost. Já si třeba jako hobby našel truhlařinu, baví mě to, je to taková určitá výpusť od toho, jak člověk celý den sedí u počítače. A to je typicky činnost, kterou když nějaký čas děláte, tak se mě pak můžete zeptat na věci, jak co udělat, jak držet nářadí apod., jak se u toho postavit… Mám tu zkušenost, protože jsem si tím musel osobně projít se všemi chybami a omyly. To vás těžko naučí někdo, kdo si tím samým už neprošel.

A tohle vám ten systém nemůže zprostředkovat. Přestože už jsou dnes i truhláři, kteří ukazují svoje zkušenosti na youtube. Ale z toho si můžete odnést jen takovou poloviční zkušenost. Stroj nemá hmatatelnou zkušenost - vzít věc do ruky. Takže v momentě, kdy se ho začnete ptát na praktické zkušenosti typu jak držet dláto nebo jak se postavit k ponku, tak ho zaženete do úzkých. On vám začne dávat generické odpovědi, ale vlastně nebude schopen říct jak se správně rozkročit a správně dláto uchopit. Také mimochodem proto, že každé dláto je jiné, každý ponk je jiný, každý kus dřeva je jiný. To je zkušenost, kterou nedokážete zprostředkovat načtením knížek nebo sledováním videí. Je to o hmatu.

V těchto praktických věcech jsou systémy umělé inteligence totálně nemožné a proto si nemyslím, že by mohly ovládnout svět, tak jak se líčí v různých scifi dílech. Ale v čem si myslím, že můžou mít negativní efekt na lidstvo je, že je naučíme mnoho věcí s bláhovou představou o tom, že my už je nebudeme potřebovat umět. Ztratíme schopnost některých základních úkonů, což se už v historii mimochodem mnohokrát stalo. Jenže když pak systémy z jakéhokoliv důvodu přestanou být funkční nebo budou mít výpadek, budeme bezradní. A to není o tom, že by nám stroje podrazily nohy, my si ty nohy podrazíme sami vlastní pohodlností.

To ale neznamená, že bychom měli vyrazit a začít ty systémy bořit, nebo je zakazovat. Měli bychom být schopni kriticky nahlížet, kde jsou limity a kde to nějakým způsobem začíná mít na nás negativní efekt. A to se zase se dostáváme k potřebě toho kritického myšlení, kdy člověk vystoupí ze své pohodlnosti a začne dělat něco, co je nepopulární, co bolí.

Kdysi jste strávil nějaký čas na NASA Ames Research Center. Co vám to dalo do vaší práce?

Profesně to bylo samozřejmě zajímavé. Ale paradoxně mi to dalo takovou řekněme větší úctu k Evropě, protože najednou pochopíte až přehnanou kompetitivnost, která v USA zkrátka je. A to je prostředí, ve kterém nechcete pracovat. Je to až příliš toxické.
Například jsem stal svědkem situací, kdy se hrálo o rozpočet a bylo jasné, že se některá oddělení budou zavírat, tak všichni museli podávat nějaké interní projekty. A vznikla bizarní situace, kdy tiskárna pro obě oddělení byla na chodbě a vy i oni jste se báli něco vytisknout, aby vám to někdo z druhého týmu nesebral, než tam dojdete. V momentě, kdy se dostanete do takové situace, tak si myslím, že je prostě lepší se zastavit.

Proto si ohromně vážím, že u nás na fakultě můžu zajít za kýmkoliv a říct mu o radu k tématu, ve kterém se potřebuji víc přiučit. A mí kolegové se nebojí sdílet myšlenky, protože to jednak obohatí obě strany, a zároveň si věříme, že když budu podávat nějaký evropský projekt, tak si od nich nevezmu jen ty myšlenky a nepřelepím je svojí jmenovkou, ale zároveň nabídnu oddělení, jestli by taky nechtěli napsat pár lidí na ten projekt, a měli na něm participaci. V Evropě se ještě nesnažíme na dřeň soutěžit přes mrtvoly.

Rád vzpomínám na zkušenost coby postdoktorand ve Švédsku, kdy první věc, o kterou se zajímali, bylo zda je vše v pořádku a není problém s bydlením nebo s čímkoliv jiným. Já jsem tam tenkrát jel s manželkou, pro kterou bylo třeba vyřídit zdravotní pojištění. A na té univerzitě v momentě, kdy se to dozvěděli, tak se sami nabídli, že to zařídí a prostě jí na ten rok zaplatili zdravotní pojištění. Protože věděli, že já se nebudu rozptylovat jinými věcmi a budu v pohodě.

Důležitá schopnost softwarového architekta je postarat se o to, že lidi v týmu jsou schopni dobře zvládat věci, které mají dělat a že je to baví. V momentě, kdy lidem musíte říkat, co mají přesně udělat a pak to po nich kontrolovat, tak jste otrávení všichni. Vy potřebujete, aby ti lidé přicházeli s vlastníma myšlenkama, a ptali se vás, jestli by nemohli udělat něco navíc. Když jim umožníte inovovat po vlastní lince, nebo si třeba vybírat, jaké technologie by chtěli používat, tak je to bude o to víc bavit.

Kdy vás začalo bavit programování? Jaká byla vlastně vaše cesta k tomu?

Za to může moje maminka, která mě v šesti nebo sedmi letech zapsala na programovací kroužek na místním Domě dětí a mládeže. Dělali jsme něco v basicu, základní programovací jazyky, spíše výukové. A mě to vůbec nešlo a snad půl roku jsem se s tím pral a říkal mamince, že už na ten kroužek chodit nechci. A ona ne že by mě tam nutila, ale vždycky mě tak jako chlácholila, že mi to pak bylo tak jako vnitřně blbý to flákat, takže jsem tam vždycky jako došel (směje se).

Jak se to zlomilo potom?

S programováním obecně to bývá tak, že si vždycky něco zkoušíte, koukáte na ty příklady, a vůbec vám to nedává smysl. A pak jako kdyby člověk tak jako luskl prstem a najednou se to jako zlomí a vy jako skrz to vidíte. Tenhle moment jsem pak zažil víckrát. Když jsem potom nastoupil na Matfyz, tak jsme měli kurz programování jiného stylu, než jsem byl zvyklý. A já jsem na to asi tři měsíce koukal, a v podstatě jen replikoval příklady vyučujícího. Vůbec jsem to nechápal. A najednou prostě, nevím, kde se to vzalo, mi to došlo a najednou jsem jakoby viděl skrz to a dokázal udělat cokoliv. A takhle to s tím programováním je.

A když jsem končil magistra, tak jsem si říkal, že by bylo dobré v tom ještě trochu pokračovat, protože mě to bavilo. Ale do firmy se mi jít nechtělo, to jsem si zkusil, a asi po třech měsících se rozloučil, že budu raději dělat na živnosťák, protože sedět tam jako od devíti do pěti, když tu věc můžu za polovinu času udělat doma z postele…

Nějak mě úplně nelákalo jít do zahraničí, tak jsem vlastně nastoupil na doktorát. A když jsem udělal doktorát, tak nějak mi bylo jasné, že úplně do firmy jít nechci. Protože typicky půl roku člověk objevuje a baví ho to, a pak začne dělat ty repetitivní věci. A málokdy máte ve firmě prostředí, ve kterém můžete celý život něco objevovat.