Profesor Barták: S dobrým plánováním je vše rychlejší

Profesor Roman Barták se může od konce ledna pyšnit titulem AAAI Fellow, který Asociace pro pokrok v umělé inteligenci (Association for the Advancement of Artificial Intelligence - AAAI) každoročně uděluje těm, kteří v oboru AI celosvětově zanechali nesmazatelnou stopu. Na půdě Matematicko-fyzikální fakulty UK, kde profesor Barták působí, jsme však nakonec probrali i jiná témata než "jen" umělou inteligenci.

K čemu vás zavazuje udělení AAAI Fellow?

Nejde o formální závazek. Není to ocenění nějakého konkrétního výzkumu, ale spíše dlouhodobé práce na poli umělé inteligence, které AAAI uděluje vybraným osobnostem. Je to řekněme přičlenění se k top vědecké komunitě lidí okolo AI, což je pro mě samozřejmě pocta. Při projevu na slavnostní večeři v Singapuru, kde byla cena udělena, jsem řekl, že jsem poctěn nejen tím být v top společnosti kolegů, které znám léta, ale zároveň vděčný za možnost potkat špičky v oblastech, kterým se já nevěnuji.

Znamená to pro mě kontakt s lidmi, se kterými bychom se jinak asi míjeli, protože pracujeme v jiných oblastech. A předávat si zkušenosti a informace, navazovat další spolupráce, to vidím jako velmi cenné. Je vždy prospěšné být v kontaktu s dalšími oblastmi, protože mohou přispět i mému oboru. Člověk by neměl zavírat oči a soustředit se jen na záležitosti ve své „bublině“, ale získávat i potenciální znalosti a techniky odjinud, protože to pak oživí i jeho vlastní práci.

Navíc je to užitečné i pro kontakty do budoucna.

Samozřejmě, pro společné projekty, kde potřebujete komplementaritu. Vaše znalosti nemohou obsáhnout všechno, takže je dobré mít kontakty i na špičkové odborníky v oblastech, ve kterých se běžně nepohybujete. Navíc ve všech našich pracech spolupracujeme hlavně s kolegy v zahraničí, u nás v ČR zase tak moc ne.

Je to proto, že jste v Česku už jaksi „předběhli dobu“?

Je to možná tím, že na začátku jsme v oblasti plánování byli jen maličká skupinka, která se až nyní více rozrůstá i díky mým bývalým doktorandům, kteří se rozběhli po republice. Na odborných konferencích specializovaných na AI, které navštěvuji, je česká komunita velmi malá.

Jaká je hlavní oblast vašeho vědeckého výzkumu?

Automatické plánování, což je z mého pohledu v umělé inteligenci v podstatě všude. Pokud se podíváme na to, čemu se říká umělá inteligence, tak autonomní agenti musí být schopní uvažovat o svých akcích do budoucna, aby dosáhli požadovaných cílů. A plánování se zabývá právě tím, jak zorganizovat své schopnosti, my jim říkáme akce, do plánu pro dosažení konkrétních cílů.

Naše komunita není tak velká jako komunita kolem neuronových sítí, či velkých jazykových modelů, kam se v současnosti tlačí úplně všichni. Ale od svého vzniku v 70. letech k tomu, co dokáže dnes, udělala obrovský pokrok. Žádný jiný systém, ani velké jazykové modely, nedokáže plánovat tak dobře jako techniky, které vyvinula plánovací komunita.

Někdo systému popíše schopnosti, které má, a pak už systém dokáže tyto schopnosti sám skládat, aby dosáhl libovolného cíle. Formální popis těch schopnostní, říkáme mu model, je ale úzké hrdlo této technologie, a proto se aktuálně intenzivně věnujeme tomu, jak ten model generovat automaticky, pouze z příkladů plánů. Čili strojové učení v praxi, které ale slouží jako jakýsi mezilehlý článek, kdy se neučíme rovnou výstup, ten plán pro dosažení zadaného cíle, ale naučíme se ten formální model a pak teprve s ním pracujeme dál.

Takže vy vlastně uměle vytváříte problémy?

To ne, my ty problémy spíš řešíme (směje se). Nám ty problémy musí zadávat někdo zvnějšku. Co my děláme při plánování je, jak věci, které už jsou v modelu, zkombinovat tak, abychom dosáhli zadaného cíle, vyřešili problém. Uživatel řekne: Tady jsou tvoje schopnosti a tady je to, co chceš dosáhnout. Ukaž mi, jak to udělat.

Jak si má laik váš výzkum představit v praxi?

Například dostanu nějaký výrobek a mám zjistit, jakou posloupnost kroků mám udělat, abych výrobek sestavil. Já sice vidím kousky, ze kterých se ten výrobek skládá a vím, jaké jsou tam návaznosti - že například nejdřív musím upevnit jednu část, než můžu přidat další část… Ale to, jak z toho udělat tu posloupnost, to řeší právě plánování. Výroba pak už ten plán realizuje na konkrétních strojích v konkrétním čase.

Jiný příklad může být naplánování dovolené. Já znám jednotlivé kroky, které můžu udělat: koupit si letenku, zamluvit si ubytování a tak dále. A teď to potřebuji dát dohromady, abych například někam nepřiletěl a teprve na místě nesháněl ubytování, protože jsem si ho rezervoval někde jinde nebo rezervaci úplně zapomněl provést. Nalezení spoje z města A do města B je další typický jednoduchý plánovací problém. Mám k dispozici přejezdy mezi jednotlivými místy, které potřebuji pospojovat do finální cesty tak, abych se dostal i do vzdálenějšího cíle, nejen tam, kam vede přímé spojení.

Jak se bude váš výzkum dál posouvat?

Plánování je univerzální oblast. Dnes v umělé inteligenci převládají jazykové modely a generativní systémy, a zdá se, že dokážou dělat úplně všechno. Ale já si myslím, že nedokážou. Takže to, co já vidím jako velmi zajímavé, je integrace těch systémů, to bude výzkum táhnout.

Mě trošku mrzí, že média dnes předkládají umělou inteligenci jako chat GPT a jazykové modely. Laik si tak může říct: to co děláte, přece není umělá inteligence, to jsou jenom algoritmy. Má pravdu, děláme algoritmy, ale i za jazykovými modely jsou „jen“ algoritmy, protože na počítačích neběží nic jiného než algoritmy. Spousta technologií AI je už dávno používaná v praxi, jen to už lidé nevnímají jako AI.

Kterému typu plánování se nejčastěji věnujete?

Co my teď děláme jako hodně živou oblast, je takzvané multiagentní plánování cest, což je speciální případ plánování, který má praktickou aplikaci ve skladech, kde se používají roboti. Sklad má omezený prostor a typickým úkolem je odněkud někam něco převézt prostřednictvím robotů. Naplánovat trasu tak, aby každý z nich dojel co nejrychleji na konkrétní místo, dovezl zboží, a s nikým se nesrazil.

V podstatě vy si v e-shopu vložíte něco do košíku, což je balík nějakých produktů, a my musíme naplánovat trasy pro roboty ve skladu, aby ty objednané produkty posbírali a v daný čas přivezli na dané místo, kde někdo vše dá do balíku a připraví jej dopravci.

Sklad je omezený prostor ale co rozvážení jídla pomocí robotů ve městě? To už některé firmy zkoušejí i v Praze.

To je jedna z aplikací, kterou taky máme, říkáme tomu „automatická křižovatka“, kdy jde o to naplánovat, aby auta projela křižovatku a nesrážela se. My to děláme centralizovaně, tedy máme plnou kontrolu nad vším, ale zajímavé je to udělat distribuovaně, kdy si každý agent plánuje svoji trasu, a přesto se s nikým nesrazí. To je velmi zajímavý problém.

Vy asi budete plánovací typ i v soukromí, jak to vnímá rodina?

Jsem hodně plánovací typ (směje se). A v rodině se to setkává s pochopením v tom, že všichni na vás potom spoléhají, že když se někam přijede, tak vy prostě víte, co se bude dělat, znáte přesné následující kroky.

Takže máte na vše připravené i varianty B a C, předpokládám.

Ano! O tom prostě plánování je. Zvlášť když ty plány děláme optimální, tak jsou hodně těsné a může se jednoduše stát, že některý krok plánu selže. A pak musí být člověk připravený i na plán B. I automatické plánování má na tohle techniky, které přesně fungují stylem, že je v záloze i plán B či plán C.

Slovy klasika: Kdo je připraven, není zaskočen.

Přesně tak! Pak je všechno mnohem rychlejší. Člověk si to možná neuvědomuje, ale když si dopředu věci naplánuje, tak všechno potom probíhá rychleji. Zatímco když to člověk musí řešit až na místě, tak všechno trvá mnohem, mnohem déle…

Jaká vlastně byla vaše cesta k oboru, kterému se nyní věnujete?

Mě umělá inteligence začala zajímat už na střední škole, což jsou 80. léta minulého století. A důvod byl ten, že umělá inteligence v sobě zahrnuje úplně všechno a člověk se neupne jen jedním konkrétním směrem. Když někoho zajímá medicína a počítače, může se věnovat AI v medicínské aplikaci. Pokud někoho zajímá literatura, psaní knih, může se zabývat AI z pohledu generování obsahu těch knih. AI má tu výhodu, že se člověk nemusí upínat jen k jedné věci, a to je asi to, co mě na tom lákalo.

Já chtěl dělat expertní systémy, kterým patřila 80. léta, ale můj školitel profesor Štěpánek mě tak trošku nasměroval k oblasti, které se říkalo splňování omezujících podmínek. Tehdy to tady nikdo v podstatě nedělal a mě to chytlo, protože to je podoblast umělé inteligence. A přes ní jsem se dostal k rozvrhování jakožto aplikaci technik splňování podmínek, kdy jsem pracoval s firmami v Izraeli a v Irsku, které řešily reálné rozvrhovací problémy v průmyslu. A přes rozvrhování jsem se postupně dostal k plánování, což je takový předstupeň k rozvrhování.

Jak se to bude vyvíjet dál, nebudou už lidé spoléhat jen na systémy a přestanou přemýšlet?

To je nebezpečí jakékoliv technologie obecně, že člověk na ní spoléhá natolik, že pak už není schopen dělat samostatná rozhodnutí. Podívejte se například na GPS. Já jsem ještě člověk, co vyrůstal s papírovou mapou a ve městě se s ní neztratím. Ale myslím, že řada mladých lidí už by dnes měla problém i s mapou v mobilu, kdyby neukazovala jejich aktuální polohu a kroky, jak se dostat do cíle. AI cílí na myšlení, takže nebezpečí, že přestaneme myslet, tady samozřejmě je, protože člověk je v principu líný.

Dá se tomu nějak vyvarovat?

To si musí každý sám říct: OK, já tu technologii budu používat, abych si něco urychlil, ale budu ji zvládat a snažit se nějaké problémy vyřešit pomocí vlastního rozumu. Stačí si uvědomit, že může nastat situace, kdy nebudu mít telefon.

Občas se mluví o tom, že kvůli AI skončí některé profese. Jsou to reálné hrozby?

Určitě. U jakékoliv nové technologie je to tak, že buď skončí ta profese nebo se velmi zúží počet lidí, který tu profesi dělá. To není nic nového, to lidstvo provází od počátku. Nejprve všichni byli lovci, pak se jejich počet zmenšoval a přibývali zemědělci. Pak se zmenšoval počet zemědělců a přibývali lidi v továrnách, pak klesal počet lidí v továrnách a zvětšoval se počet lidí ve službách...

Co je nyní problém, je ta rychlost. Předtím jsme vždy měli čas se na tu změnu přizpůsobit. Ale změny, které přináší AI jsou velmi rychlé. Před pár lety byli programátoři skvělé zaměstnání a dnes to vypadá, že je to vlastně mrtvá profese, protože počítačový program dnes napíše AI systém sám na základě slovního zadání. Což si mimochodem nemyslím, že je úplně pravda. Nicméně kolegové, kteří učí programování, jsou na to připraveni, protože my víme, že s AI technologiemi studenti potřebují pracovat, ale zároveň vidíme i to nebezpečí ve špatné kvalitě automaticky generovaného kódu.

Co byste doporučil generaci, která nyní studuje zde na Matfyzu? Jak využít AI k tomu, aby to byl dobrý sluha, ale ne zlý pán.

To je přesně ono – využívat AI jako sluhu. Nepřestat přemýšlet, myslet kriticky, klidně si nechat od toho systému něco poradit, ale zároveň kontrolovat, že to dává smysl. Já vždycky říkám: klíčové je používat vlastní hlavu. Ano, nechte si něco poradit, ale ověřte si, že to není nesmysl, nenásledujte kroky, co vám ten systém říká, úplně slepě. Použijte svoji hlavu, jestli opravdu je rozumné to, co systém nabízí. Klíčové je kritické myšlení, zkrátka nespoléhat na to, že každá informace, kterou dostanu, je pravdivá.

Například boj s fake news. Někdo tvrdí: uděláme systém, který bude sám detekovat fake news. Jenže pak vznikne nový systém, který bude generovat lepší fake news. Takhle to nejde, to budou pořád bojovat systémy mezi sebou. Stačí přece použít svůj mozek, který vám pomůže odhalit, když některé věci nedávají smysl. Ale když přestanete přemýšlet, neuvidíte to.

Vy jste neustále v kontaktu se studenty. Používají kritické myšlení a ověřují si informace?

Nejsem si tím vždy jistý, ale my je nutíme k tomu, aby přemýšleli. I během výuky jim říkáme: nevěřte nám, nevěřte bezmezně tomu, co tady říkáme, protože každý učitel může udělat chybu! Já taky mohu mít někdy ve svých přednáškách chybu a nejlepší je, když jí nějaký student odhalí.