Vnímam vedu ako objavovanie Božieho tajomstva

Rozhovor s Michalom Gregorom, vedcom, ktorý skúma umelú inteligenciu

Miško, zaoberáš sa umelou inteligenciou, o ktorej sa dnes veľa diskutuje. Prečo si si vybral túto disciplínu a ako vidíš jej rozvoj v ďalších rokoch?

Vždy ma bavilo programovanie. Napísať zdrojový kód, ktorý niečo zaujímavé zrealizuje, sa mi odmalička zdalo cool. S umelou inteligenciou a strojových učením to pre mňa bolo podobné. Je to taký logický ďalší krok. Dajú sa pomoc neho realizovať úlohy, na ktoré by sme ešte pred pár rokmi nemohli ani pomyslieť.

Keď chce dnes človek povedzme nahrubo odhadnúť, v ktorom európskom veľkomeste sa používa najviac bicyklov, neznamená to, že do nich musí vypustiť stovky pozorovateľov s poznámkovými blokmi. Napíše automatický skript, ktorý stiahne pár tisícok fotiek z Google Street View, potom ich preženiete cez umelú neurónovú sieť, pomocou ktorej spočíta výskyty bicyklov, nakreslí z toho nejaký pekný graf a výsledky sú na svete.

V blízkej budúcnosti sa tieto metódy stanú štandardom. Bude to jeden z bežných nástrojov, o ktorom sa budú učiť budúci inžinieri, a v nejakej podobe prenikne zrejme aj do výučby informatiky a súvisiacich predmetov na stredných školách. V zahraničí sa to už deje.

Veľmoci umelej inteligencie sú vraj USA a Čína. Ty si v poslednom období absolvoval študijný pobyt v Sanghaji a teraz pracuješ v laboratóriách University of California v Berkeley. Hovorí sa, že ropou budúcnosti sú informácie (big data) a elektrinou umelá inteligencia. Majú skutočne Američania a Číňania náskok v tejto disciplíne? Na akých veciach sa tam pracuje?

V oblasti umelej inteligencie sa robí kvalitný výskum nielen v Amerike a v Číne. Robí sa aj v Európe – existuje viacero excelentných pracovísk v Nemecku, Švajčiarsku, Francúzsku, vo Veľkej Británii a inde. Ale je pravda, že Američania majú v tejto oblasti navrch. Na špičkových univerzitách pracujú na týchto témach pre nás často až nepredstaviteľne veľké tímy ľudí. Silnou témou je v súčasnosti samozrejme hlboké učenie, ktoré dosahuje vynikajúce výsledky napríklad v spracovaní obrazu a zvuku – moderné systémy na strojový preklad, rozpoznávanie reči, rozpoznávanie tvárí a pod. sú všetky založené práve na takýchto metódach. Pracuje sa tiež na mnohých aplikáciách v oblasti medicíny, dopravy, služieb a podobne.

Jednou zo špecialít UC Berkeley je hlboké učenie s odmenou, ktoré má pravdepodobne veľkú budúcnosť v oblasti robotiky. Podiel na výskume, ktorý sa deje, má aj viacero veľkých firiem, ktoré si mnohokrát výsledky výskumu nenechávajú samy pre seba, ale ich sprístupňujú celej komunite v podobe vedeckých článkov, zdrojových kódov alebo aj softvérových nástrojov, ktoré pôvodne vyvinuli pre svoju vnútornú potrebu.

Myslím, že čo sa týka excelentnosti výskumu v tomto odbore, Čína za Spojenými štátmi zatiaľ o niečo zaostáva. Hneď vzápätí však musím dodať, že sa tam do tejto oblasti veľa investuje. Podľa toho, čo som videl na Tongji University, kde som na jar strávil dva mesiace v rámci medzinárodného projektu H2020 SENSIBLE, v Číne vyrastá generácia vynikajúcich odborníkov, ktorí rozhodne budú mať ku budúcemu rozvoju týchto technológií čo povedať. Vznikajú tiež školiace programy, kde čínskych odborníkov vyučujú vynikajúci zahraniční experti. Umelá inteligencia má v Číne pravdepodobne veľkú budúcnosť.

Si priamo v centre výskumu a inovácii, ktoré hýbu svetom. Neďaleko je Stanford, Silicon Valley, pohybuješ sa medzi svetovými hviezdami, z ktorých kníh a prednášok sa učí celý svet. Aké to je?

Je to úžasné :). Je skvelé, keď človek v stredu príde na prednášku o učení s odmenou a prednáša Sergey Levine: jeden zo špičkových svetových odborníkov a mimochodom aj veľmi vtipný chlapík – sem-tam nám na jeho prednáškach už takmer aj slzy tiekli od smiechu. Potom prídete v piatok popoludní na seminár a reční Wojciech Zaremba, odborník zo známej firmy OpenAI. Seminárna miestnosť je plná na prasknutie – musia doložiť ďalšie rady stoličiek. Obzriete sa a kúsok od vás sedí Stuart Russell, spoluautor asi najznámejšej učebnice umelej inteligencie na svete. Pracovať medzi takýmito ľuďmi je iné, než len sledovať ich články, čítať učebnice a pozerať videozáznamy prednášok. Tu sa dajú klásť otázky, učiť sa z ich skúseností – a aj pochopiť, v čom sa ich systém líši od toho, v ktorom pracujeme my. Berkeley je miesto, kde sa oplatí byť.

Spomínal si, že významní profesori sa vyjadrujú a prednášajú veľmi jednoducho a zrozumiteľne. Premýšľal si nad tým, prečo sú u nás mnohé školy také nudné, prednášky a knihy také zložité?

Túto otázku som si za posledné týždne položil veľakrát. Jedná dôležitá vec je, že UC Berkeley je univerzita zameraná na prvom mieste na výskum. Profesori tu venujú kontaktnej výučbe priemerne tak 3–4 hodiny týždenne. Keď prednášajú a hovoria o špičkových metódach a prístupoch z oblasti, ktorej sa venujú, často sú to metódy a prístupy, na ktorých návrhu sa sami podieľali. To môže byť jeden z dôvodov, prečo dokážu výklad začať od motivácie: Za akým účelom sa robí toto zložité matematické odvodenie? Aký výsledok sa od toho očakáva? Aj pri pomerne zložitej matematike dokážu jasne motivovať každý krok.

U nás je taký spôsob výkladu – aspoň v rámci mojich skúseností – skôr výnimkou. Učivo sa často prezentuje bez kontextu – povedzme na matematike sa študenti naučia, ako vypočítať vlastné čísla matice, čo je fajn – lenže možno nemajú potuchy, čo to vlastné čísla sú, prečo ich vôbec niekto vymyslel a na čo sú vlastne dobré. Na UC Berkeley je to (aspoň v rámci skúseností, ktoré som zatiaľ nazbieral) iné v tom, že sa učí aj ten kontext, budujú sa intuície: Profesori berú študentov akoby k sebe do kuchyne a ukazujú im, ako sa varí veda.

Keď u nás ale niektorým kolegom pridelia na semester aj 17-18 kontaktnej výučby hodín týždenne, nemajú potom pri ďalších povinnostiach prirodzene čas ani na to, aby sa poriadne pripravili na tú výučbu – o tom, že by mohli robiť ešte nejaký seriózny výskum alebo sa ďalej vzdelávať a sledovať trendy v odbore, sa nedá ani snívať.

Veľa sa diskutuje o obrovských možnostiach umelej inteligencie v obchode, zdravotníctve, údržbe strojov, autonómnych automobiloch ale aj pri automatizácii inžinierskej práce. Kde vidíš hlavný nástup umelej inteligencie a efekty, ktoré prinesie?

Myslím, že metódy umelej inteligencie v budúcich rokoch zásadne zmenia veľa odvetví. Napríklad aplikácie v zdravotníctve môžu byť revolučné – niektoré náročné úlohy, súvisiace napríklad s čítaním a interpretáciou rôznych druhov snímok sa ľahko neučí ani človek. Treba veľa skúseností. Je pravdepodobné, že mnoho takýchto úloh bude v blízkej budúcnosti možné veľmi uľahčiť alebo aj úplne automatizovať. Tieto systémy sú schopné učiť sa z obrovských dátových množín – vieme im v pomerne krátkom čase ukázať taký počet snímok, aký by človek nebol schopný spracovať za celý život. Môže to veľmi pomôcť napríklad aj pri účinnej diagnostike zriedkavých chorôb – prostredníctvom dát sa o nich dajú principiálne zozbierať skúsenosti z celého sveta. Automatizované systémy môžu tiež veľmi pomôcť s poskytovaním zdravotnej starostlivosti v rozvojových krajinách, kde je lekárov veľký nedostatok.

Zmeny sa určite objavia aj v tom, ako človek interaguje so strojmi. Vo veľmi blízkej dobe sa zrejme na nepoznanie zmenia počítačové nástroje na úpravu fotografií a videa. Bude veľa aplikácií v zábavnom priemysle – už dnes napríklad existujú filmy, v ktorých niektoré postavy sú čiastočne generované počítačom, keďže pôvodní herci medzitým zomreli. Je to však veľmi nákladné. V blízkej dobe to bude možné realizovať omnoho ľahšie – budú také videá vedieť vyrobiť aj deti na bežných komerčných laptopoch. Samozrejme veľa z toho bude mať aj etické konotácie.

Každá technológia má aj svoje negatívne efekty, aj keď je odrazom správania sa človeka. Mnohí experti varujú pred umelou inteligenciou a jej rizikami. Kde ich vidíš ty?

Podľa mňa môže byť jedným z negatívnych efektov postupná strata niektorých druhov pracovných miest. Pravdepodobne to ale nebude nárazový proces – bude asi trvať dlhšie obdobie, kým tie technológie dostatočne dozrejú a prejdú do praxe. Otázne je, ako to zmení našu spoločnosť z dlhodobého hľadiska. V súčasnosti, hoci vo svete prekvitá plutokracia, bohatí a mocní stále ešte potrebujú aj nás, obyčajných ľudí, aby sme pre nich pracovali. Ak nás raz budú vedieť nahradiť inteligentnými automatickými systémami, kto vie povedať, ako to zmení rozdelenie moci v spoločnosti? To sú podľa mňa otázky, ktorými stojí za to sa zaoberať.

Čo sa týka obáv z toho, že umelá inteligencia onedlho predbehne človeka a ovládne ľudstvo, myslím si, že sú značne predčasné. V súčasnosti je omnoho väčším rizikom, že umelá inteligencia bude príliš hlúpa, než že by bola príliš inteligentná. Riziká jej praktického nasadenia v niektorých typoch aplikácií sú v tom, že nemusí fungovať správne a bezpečne – že napríklad autonómne vozidlo zrazí človeka preto, lebo ho bude považovať za olejovú škvrnu na vozovke – nie preto, že by malo skryté úmysly a motivácie a zamýšľalo ovládnuť ľudskú rasu… Otázkam bezpečnosti sa teraz vo svete venuje veľa výskumného úsilia, ale zatiaľ neexistujú žiadne definitívne odpovede.

Aby som nebol prehnane optimistický – je pravda, že netreba podceňovať ani dlhodobé riziká. V OSN napríklad prebieha iniciatíva zakázať používanie tzv. LAWS: smrtiacich autonómnych zbraňových systémov (robotických armád). To je potrebné robiť s veľkým predstihom – keď začnú preteky v zbrojení a autonómne teroristické útoky, bude už neskoro.

Ty si vedec, ktorý sa zaoberá teóriou umelej inteligencie a tým ako to celé funguje vo vnútri. Priznám sa, že tvojej knihe som rozumel len čiastočne. Ako a kde sa môže bežný človek naučiť viac o tom, ako využiť vo svojej prácu túto technológiu?

Existuje a stále vzniká veľa iniciatív, ktoré sa snažia o popularizáciu metód umelej inteligencie a strojového učenia pre širšiu skupinu. Existuje napríklad veľa online kurzov – na portáloch ako Coursera, Edx, Udacity, DataCamp a ďalších – ktoré nejdú do matematickej podstaty, ale sa skôr snažia praktickým spôsobom sprostredkovať základné zručnosti z odboru. Dobrým príkladom toho, čo myslím, je kurz „Deep Learning”, ktorý poskytuje prostredníctvom portálu Udacity Google. Ten je orientovaný veľmi prakticky. Veľa týchto kurzov je k dispozícii zadarmo a učia ich špičkoví odborníci – oplatí sa na to pozrieť.

Veľa sa snažíme robiť aj u nás na univerzite. V rámci aktuálne bežiaceho projektu KEGA 014ŽU-4/2018 pripravujeme materiály, ktoré sú určené práve pre širšiu odbornú verejnosť. Mal by tiež vzniknúť katalóg, ktorý by pomerne jednoduchou formou prezentoval typizované úlohy, ktoré je možné pomocou metód umelej inteligencie a strojového učenia realizovať – a ku každej by uviedol zoznam súvisiacich metód a prístupov. Veríme, že takéto materiály nám v budúcnosti pomôžu účinnejšie komunikovať s ľuďmi z iných odborov a z praxe o tom, ako by sa metódy umelej inteligencie a strojového učenia dali aplikovať v ich oblasti.

Veľa sa hovorí o humanite a technológii, Gerd Leonhard napísal pod týmto názvom knihu. Bol som na prednáške niektorých expertov zo Silicon Valley, ktorí ľudské bytosti porovnávali s technológiou a majú v pláne túto “nedokonalú technológiu” vylepšovať rôznymi formami augmentácie. Ty sa zaoberáš umelou inteligenciou a zároveň si veríš v Boha. Čo Ti prináša toto spojenie viery a technológie, ktorá niektorých ľudí zvádza k tomu, aby sa hrali na boha?

Ja osobne vnímam vedu ako objavovanie Božieho tajomstva – asi ako keď sa Adam a Eva prvýkrát prechádzali po rajskej záhrade a za každou zákrutou ich čakalo nejaké nové prekvapenie, ktoré pre nás Boh pripravil. Predstavujem si, aké to muselo byť, keď človek prvýkrát videl východ a západ slnka. Alebo prvýkrát zažil dážď. Učiť sa a objavovať nové veci, prichádzať s myšlienkami, testovať ich, skúmať – myslím, že to má v sebe veľa radosti z toho prvotného prekvapenia. Ale je to aj kopec driny a neistoty o tom, aký bude jej výsledok.

Podľa mňa by malo byť toto východiskom vedy skôr než akási baconovská túžba podrobiť si tento svet a obrátiť ho naruby, keď sa nám zdá, že nám to vyhovuje. Samozrejme, veda musí byť aj pragmatická. Nechcem tým ani povedať, že máme zavrhnúť všetky spôsoby technického „vylepšovania“ človeka – to by sme museli prestať používať napríklad aj okuliare, načúvacie prístroje a kardiostimulátory. Ale je pravda, že je veľmi potrebné tam rozoznávať hranice – inak sa môžeme ľahko ocitnúť v niektorom z populárnych dystopických románov.

V mladom veku si dosiahol veľký pokrok. Aké máš ďalšie plány? Dá sa vôbec takáto disciplína rozvíjať na Slovensku?

U nás na Slovensku sú samozrejme podstatne odlišné podmienky na vzdelávanie aj na výskum, než majú k dispozícii na mnohých zahraničných univerzitách – nielen v Spojených štátoch, ale aj v rámci Európy. Dalo by som o tom dlho hovoriť.

Napriek nedostatkom, ktoré si mnohí uvedomujeme, som však presvedčený, že sa táto disciplína nielen dá, ale aj musí rozvíjať aj u nás na Slovensku. V zahraničí sa znalosti z oblasti umelej inteligencie a strojového učenia čoraz viac stávajú štandardnou výbavou absolventov technických odborov. Myslím, že to bol prof. Geoffrey Hinton, známy ako „krstný otec“ hlbokého učenia, kto sa vyjadril, že sa zo strojového učenia stáva akási „nová matematika“ – čosi bežné a základné, čo mnohí zamestnávatelia vyžadujú už takmer ako samozrejmosť.

Ak si uvedomíme, že aj na Slovensku mnoho firiem investuje do oblasti umelej inteligencie a strojového učenia a že je v našom regióne trvalý nedostatok absolventov technických smerov (ani nehovoriac o absolventoch s takouto špecializáciou), je zrejmé, že by táto oblasť mala patriť aj na našich univerzitách medzi priority. Je tiež dôležité, aby sme držali krok s dobou – toto je jedno z odvetví, kde sa výučba naozaj nedá realizovať tak, že sa predmet učí 10 rokov rovnakým spôsobom bez podstatných zmien. O výskume to platí samozrejme päťnásobne.

Určite stretávaš pri svojich cestách Slovákov. Mám pocit, že aj šéf umelej inteligencie vo firme Tesla Andrej Karpathy má slovenské korene. Ako vidíš šancu Slovákov a Slovenska presadiť sa vo výskume a nových technológiách? Ja mám pocit, že malé národy, ktoré nemôžu nikoho prepadnúť, okradnúť a vykorisťovať sú odsúdené na to, aby sa presadzovali hlavou, štúdiom, spoluprácou, výskumom a inováciami. Čo si myslíš o našich šanciach v týchto disciplínach?

Ako som povedal, niektoré podmienky u nás nie sú ideálne. Veľmi pozitívne však je, že máme nadšencov, ktorí sa snažia posúvať veci vpred. Tento rok to bol napríklad môj kolega Milan Straka z Fakulty riadenia a informatiky, ktorý zorganizoval na Žilinskej univerzite Letnú školu strojového učenia. Je to aktivita, na ktorej realizácii sa spolupodieľalo viacero pracovísk, vrátane našej Fakulty elektrotechniky a informačných technológií. Cieľom bolo poskytnúť vybraným záujemcom prakticky orientované intenzívne týždňové školenie zamerané na v súčasnosti najprogresívnejšie oblasti strojového učenia. Ide o dobrý príklad toho, že vďaka iniciatíve zdola môže vzniknúť niečo hodnotné a výnimočné. Ukazuje to tiež, že v rámci univerzít, aj medzi nimi, sa musíme usilovať spojiť sily, ak chceme niečo užitočné vytvoriť. Nesmieme čakať, kedy iniciatívy ku takej spolupráci prídu zhora – to sa pravdepodobne nikdy nestane, pretože systém financovania je u nás nastavený tak, aby si jednotlivé pracoviská navzájom konkurovali, nie tak, aby spolupracovali.

Ďakujem ti za rozhovor Miško. Nech sa ti v Berkeley darí objavovať Božie tajomstvá.