Prof. Barták: Umělá inteligence lidskou nepřekoná

Prof. Barták: Umělá inteligence lidskou nepřekoná

Informatika / rozhovor

Patří k uznávaným expertům a popularizátorům oboru umělá inteligence. Ve svém výzkumu se profesor Roman Barták aktuálně zaměřuje například na dorozumívání mezi roboty a automatické plánování. Za tyto aktivity jej také nedávno ocenila porota soutěže AI Awards. Profesoru Bartákovi udělila speciální cenu za „zviditelnění Česka v oblasti AI“.

Na umělou inteligenci (AI) se dnes soustředí prakticky všechny vyspělé země. Světovými lídry v této oblasti jsou USA a Čína. Jak si v silné konkurenci stojí český výzkum?

USA jsou v oblasti AI tradičním lídrem, ostatně tam tento obor vznikl. Čína do něj naopak v poslední době investovala obrovské zdroje a oproti Západu tam platí trochu jiná pravidla. Český výzkum se ale určitě neztrácí, minimálně ve specializovaných oblastech AI jsou špičkové místní týmy vidět. Bez nároku na úplnost bych zmínil jen dvě oblasti ze svého okolí. Ve světě je určitě vidět česká škola zpracování přirozeného jazyka, jejíž šíře sahá samozřejmě i mimo jazyk český. V poslední době se také daří robotickým týmům, které se umisťují na předních místech různých robotických soutěží. Určitě tedy vidět jsme.

Bohužel základní problém českého AI výzkumu je, že špičkové výzkumné týmy jsou vidět téměř výhradně jen ve své komunitě, ve své specializované oblasti. Pokud přijedete na některou z hlavních konferencí kolem umělé inteligence, tedy IJCAI nebo AAAI, je tam naše zastoupení minimální (jednotky účastníků z ČR). Naše členská základna v EurAI (Evropská asociace umělé inteligence) je tak malá, že zde prakticky nemáme žádné slovo. Hodnotíme-li tedy český AI výzkum podle viditelnosti na AI akcích, byli bychom na tom hodně špatně. Prohlášení, že jsme světová či evropská špička se základnou tisíců výzkumníků v oblasti AI, jsou hodně přehnaná. Pravda je někde uprostřed, máme zde týmy špičkové světové úrovně, ale širší zastoupení v oblasti AI, jaké můžeme vidět třeba ve srovnatelně velkém Izraeli, nemáme.

„Dnes je módní dávat nálepku AI všude, a to často i tam, kde žádné AI techniky nejsou,“ říká prof. Roman Barták (foto: archiv R. Bartáka)

Co by podle vás mohlo český výzkum podpořit a zviditelnit?

Český výzkum v oblasti AI je stále rozdrobený, nemáme ani národní konferenci věnovanou AI, na které by se místní výzkumná špička scházela. Každý tak zůstává spíše ve své specializované komunitě a prosazuje hlavně své vlastní zájmy. Pokud o sobě tvrdíme, že děláme výzkum v oblasti umělé inteligence, mělo by to být vidět na špičkových konferencích o AI. Jinak prostě v oblasti AI vidět nebudeme a vědět o nás budou jen úzce specializované skupiny. Co s tím? Aktivně se zapojit do hlavních AI konferencí a vytvořit silnou národní asociaci s vlastní konferencí, která umožní setkávání mladých výzkumníků s našimi nejlepšími experty.

O umělé inteligenci se často říká, že je technologií budoucnosti, ona už tu přitom s námi je. Kde se s ní můžeme setkat?

Techniky umělé inteligence jsou tady s námi již dávno. Po druhé zimě AI (80. léta minulého století), kdy se pojem AI ocitl v nemilosti, se tradovalo, že jakmile se AI podařilo nějaký problém vyřešit, přestalo se tomu říkat AI. Dnes je naopak módní dávat tuto nálepku všude, a to často i tam, kde žádné AI techniky nejsou. Ale abychom byli o využití umělé inteligence trochu konkrétní. Pokud vezmeme AI společně se sesterskou kybernetikou, o které se dnes tolik nemluví, tak jejich výsledky opravdu najdeme prakticky všude. Stojí za tím, že nám okénko v autě při zavírání nepřiskřípne ruku, že fotoaparát dělá ostré a hezky barevné snímky nebo že letadlo dokáže letět i bez pilota. Dále třeba taky za tím, že někdo dostal či nedostal půjčku, že nám e-mailový program filtruje spam a textový editor opravuje pravopisné chyby, že nám zásilka z druhého konce světa dorazí druhý den nebo že na Marsu jezdí průzkumné sondy a v obývácích automatické vysavače. Bez nadsázky se dá říct, že kam se podíváme, tam nějaký odraz AI výzkumu najdeme, i když ne vždy je to v té očekávané podobě.

Jaká by mohla být budoucnost za pár desítek let? Jaké jsou momentálně trendy?

Klasická předpověď je, že za X let umělá inteligence ovládne lidstvo a možná ho i zničí. Přičemž za X si dosaďte libovolné číslo, typicky je to 30 let, což není zas tak blízko, ale pořád je to představitelná budoucnost. Systémy AI ale nemyslí, nemají vlastní vědomí, jen řeší komplikovanou optimalizační úlohu, to je vše. Jestli budou řešit úlohy, které lidstvu prospívají, nebo se naopak budou soustředit na posílení moci omezené skupiny, to je na nás. Nemyslím si, že dojde ke skokové změně. Postupně budeme řadu problémů řešit efektivněji a uvolňovat si tak čas pro jiné ne nutně jen výdělečné činnosti. Pořád tady budou nové výzvy, ke kterým bude potřeba kreativně přistupovat. Počítače nám v tom mohou moci, ale zatím to nevypadá, že by nás plně nahradily.

Současný hit v AI je strojové učení, konkrétně hluboké neuronové sítě. Jde to tak daleko, že se mezi těmito oblastmi klade rovnost, což samozřejmě není pravda. Přes obrovský úspěch těchto přístupů, kterým se často přisuzují nadlidské schopnosti, se i u nich objevují „klasické“ nemoci AI, tj. úzkost zaměření a křehkost. To se projevuje nesmyslnými výstupy, pokud i jen mírně vybočíme z oblasti, pro kterou byl systém navržen. Novým trendem, zvláště v Evropě, je proto tzv. vysvětlitelná a důvěryhodná AI, tedy návrh AI systémů, na které se můžeme spolehnout a budeme jejich výstupům rozumět.

Kde v oblasti vývoje AI vidíte největší meze?

V AI existují duální přístupy, které si mezi sebou moc nerozumí, a v různých obdobích je jeden z nich vůdčí a druhý potlačován. Aktuálně vedou ne-symbolické bez-modelové přístupy, jako jsou právě hluboké neuronové sítě, a symbolické modelové přístupy jsou řadou výzkumníků považovány za překonané. Majoritní směr se vždy snaží udělat celou AI vlastními prostředky a to je podle mne jedno z aktuálních omezení. Stále se nedaří zmíněné přístupy rozumně integrovat, aby se jejich klady posílily a zápory eliminovaly. Proč bychom se o to měli pokoušet? Uznávaný psycholog, nositel Nobelovy ceny a také populární autor Daniel Kahneman popisuje lidské myšlení jako dva samostatné systémy, Systém 1 a Systém 2, a ty velmi nápadně připomínají nahoře zmíněné směry AI.

V rámci svého výzkumu se zabýváte tématy, jako je splňování omezujících podmínek, plánování a robotika. Na co se aktuálně soustředíte nejvíc?

Aktuálně pracujeme ve dvou oblastech, které svým způsobem propojují všechny zmíněné výzkumné směry. V obou je klíčové to, že používáme nějaký abstraktní model, můžeme tak zdůvodnit, proč výstup programů vypadá tak, jak vypadá.

Jednou z těchto oblastí je multi-agentní hledání cest, tedy plánování cest pro skupinu agentů, nebo chcete-li robotů, tak, aby každý dorazil do svého cíle a cestou neměli žádné kolize. Konkrétně pracujeme na formálních modelech problémů, které odrážejí reálný svět (schopnosti robotů a vlastnosti světa), a samozřejmě i na následném vyřešení problému, tedy nalezení cest. Tato oblast má široké praktické použití, od řízení přepravních robotů ve skladech přes autonomní křižovatky či pojíždění letadel na letištích až třeba po počítačové hry. Nás zajímá právě to, jak takový reálný problém abstraktně popsat, abychom ho mohli úspěšně řešit počítačem, a zároveň získané abstraktní řešení nezůstalo jen „na papíře“, ale šlo ho aplikovat na původní problém.

Druhou naší výzkumnou oblastí je automatické plánování, kde se v poslední době soustředíme na verifikaci a rozpoznávání hierarchických plánů. Hierarchický plán vzniká tak, že se zadaná úloha postupně rozkládá na pod-úlohy, až v rozkladu dojdeme na primitivní akce, které už lze přímo provést; jsou natolik jednoduché, že už se dále nerozkládají. Tyto akce jsou uspořádány podle kauzálních vazeb, například jedna akce (ruka zvedne balík) připraví předpoklady (ruka drží balík) pro spuštění následující akce (ruka položí balík na dopravník). Při verifikaci dostaneme pouze posloupnost akcí a zajímá nás, zda je možné ji získat zmíněným rozkladem nějaké úlohy neboli zda je ta posloupnost akcí korektním plánem pro vyřešení té úlohy. Při rozpoznávání plánu je ta posloupnost akcí neúplná, například jsme zatím viděli jen několik prvních akcí a zajímá nás, jakou úlohu daný agent řeší, případně jaká bude jeho další akce. A k čemu to prakticky je? Představme si, že máme popsaný nějaký postup, třeba výrobní proces, jednání se zákazníkem nebo chirurgickou operaci. Viděli jsme, jaké kroky se provedly či provádějí, a chceme vědět, zda vše proběhlo nebo probíhá podle zadání. V případě rozpoznávání plánů je tak možné zjistit, co agent, kterého pozorujeme, dělá, a podle toho přizpůsobit vlastní akce. Například asistenční robot tak může sledováním akcí člověka poznat, jaký nástroj mu má připravit pro další akci.


Prof. RNDr. Roman Barták, Ph.D.

Působí na katedře teoretické informatiky a matematické logiky MFF UK, kterou v minulosti osm let vedl. Zabývá se problematikou umělé inteligence, konkrétně oblastmi, jako je splňování podmínek, automatické plánování, reprezentace znalostí, strojové učení a robotika. Je členem několika profesních uskupení (např. mezinárodní organizace ACM pro oblast výpočetní techniky či americké AAAI sdružující odborníky na umělou inteligenci) a koordinátorem řady výzkumných projektů v rámci ČR a Evropy. Pravidelně se účastní mezinárodních konferencí a je členem organizačních výborů AI konferencí. Spolupracuje také s komerční sférou, v minulosti se podílel například na výzkumech pro společnosti Universal Synergetics (USA), Visopt Tech (Izrael) či Entellexi (Irsko). Je autorem více než 160 odborných příspěvků a také popularizační knihy Co je nového v umělé inteligenci.

Tento článek jsme automaticky naimportovali z předchozího redakčního systému. Pokud se v něm něco pokazilo, dejte nám prosím vědět.