Mária Bieliková: Ak sa chceme niečoho báť, tak ľudí a nie technológií

Mária Bieliková je informatička a popredná odborníčka na umelú inteligenciu na Slovensku. V roku 2016 získala ocenenie IT osobnosť roka. Bola členkou správnej rady JRC, High Level Expert Group on AI zriadenej Európskou komisiou. Tridsať rokov pôsobila na Slovenskej technickej univerzite, kde sa v roku 2015 stala dekankou Fakulty informatiky a informačných technológií. Po kontroverzných udalostiach spojených s voľbou nového dekana fakultu opustila a spolu s ňou odišli aj dve tretiny profesorov a docentov fakulty a ďalší pedagógovia. Je členkou Správnej rady Nadácie Orange a spoluzakladateľkou organizácie slovak.AI a v roku 2020 založila aj Kempelenov inštitút inteligentných technológií.

Prešiel približne rok, odkedy ste odišli z pozície dekanky STU. Ako celú situáciu vnímate teraz?

Základná vec, ktorú treba povedať, je, že ten odstup ešte stále nemáme. Boli podané viaceré žaloby a pokiaľ viem aj trestné oznámenie. Jedna pracovná žaloba bola aj moja. Verili sme v skoré vyhodnotenie arbitrom. Zatiaľ sa toho však veľa v tomto smere neudialo.

Krízové situácie však často produkujú príležitosti. Založenie Kempelenovho inštitútu inteligentných technológií je takou príležitosťou a vznik inštitútu považujem za veľmi dôležitý. V iných krajinách takéto inštitúty začali vznikať pred desiatimi, dvadsiatimi alebo dokonca aj päťdesiatimi rokmi. U nás doteraz nič podobné nebolo a mne nikdy v živote nenapadlo, že by som to mala byť ja, kto bude niečo takéto inicializovať. Prišlo to úplne nečakane a neplánovane.

Som ale nesmierne vďačná, lebo už za toto krátke obdobie som sa naučila veľa nových vecí. A verím, že aj kolegovia. Bola som 30 rokov spokojná na univerzite, vždy som robila svoju prácu s láskou a radosťou. Určite by som tam rada prežila aj ďalších tridsať rokov. Život to však zariadil inak. V inštitúte riešime výskum stále, no zamýšľame sa aj nad inými problémami, usilujeme sa omnoho viac o rozvoj každého v KInITe a zároveň intenzívne spolupracujeme s ľuďmi z priemyslu. Ich pohľad je často iný než ten náš, čo je vzájomne obohacujúce.

Výskum v informačných technológiách sa doteraz robil len na univerzitách?

Okrem univerzít je silným partnerom vo výskume aj Slovenská akadémia vied. Na Slovensku sú aj firmy, ktoré v ostatných rokoch začali robiť výskum. Špecifické je, že ho robia v menšom rozmere a často len interne v rámci svojej organizácie. Fakticky zoberú znalosti zo sveta, prečítajú vedecké články a na ich základe a s využitím vlastnej invencie interne spravia skutočne zaujímavé veci, no výsledky aplikujú väčšinou len u seba a na svoj biznis.

Niektoré, najmä veľké firmy už zamestnávajú výskumníkov, ktorí navyše navrhnuté postupy a modely overia aj s ohľadom na súčasný stav poznania, vytvoria poznatky užitočné pre celú spoločnosť a tie potom publikujú. Také malé lastovičky už máme aj na Slovensku. No robiť vedecký výskum je dosť drahé, predovšetkým pre malé a stredné firmy. Tie veľké medzinárodné však majú oddelenia výskumu a vývoja v zahraničí.

V KInITe firmám ponúkame práve takúto spoluprácu s výskumníkmi, ktorí majú príslušné vzdelanie a aj skúsenosti. Jedným z našich cieľov je rozvíjať výskum a inovácie vo firmách. Niekoľkí z nás sme mohli založiť firmu na vývoj riešení s umelou inteligenciou. Robili by sme najmä vývoj prípadne skombinovaný s aplikovaným výskumom a verím, že by sme sa s tým vedeli uživiť. My sme sa ale rozhodli inak. S pomocou viacerých firiem, ale najmä odvážnych manažérov a vlastníkov v týchto firmách sme vytvorili neziskovú organizáciu, ktorá realizuje základný výskum, sústreďuje talenty a spolupracuje so súkromným aj akademickým sektorom.

Slovenský výskum je podľa mnohých dlhodobo podfinancovaný. Aká je vaša skúsenosť s výskumom v rámci Inštitútu v porovnaní s univerzitou?

V porovnaní s financiami, ktoré sme mali na univerzite, toho máme podstatne menej. Na univerzite sme navyše mali rozbehnutých niekoľko projektov, no s naším odchodom buď skončili, presunuli sa alebo boli zrušené. Čo sa s nimi stalo, je už úplne mimo nás. Teraz všetko budujeme prakticky od začiatku. Ale nie nadarmo sa hovorí, že nedostatok zlepšuje riešenia. Neberiem to ako problém, ale ako príležitosť vybudovať na základe skúseností našich, našich partnerov z firiem a aj zo zahraničia organizáciu, ktorá bude efektívne vytvárať tvorivé a otvorené prostredie.

Celkovo však potvrdzujem, že výskum na Slovensku je hlboko podfinancovaný. Stačí sa pozrieť na čísla. Na výskum aktuálne dávame dvakrát menej ako je priemer Európskej únie a trikrát menej ako viaceré krajiny, napríklad Švédsko, Rakúsko, Nemecko, Dánsko, Fínsko. A to sa musí niekde odraziť. Problém je aj to, akým spôsobom sa tie peniaze na výskum dávajú. Chýba rozumná stratégia, prioritizácia. Na všetkých úrovniach. Vždy príde niekto, kto na tom začne pracovať. A potom zase niekto iný, kto to zruší a ide odznova. A takto dookola. A keď k tomu pridáme rôzne kliky, ktorým sa na Slovensku darí, výsledok vidíme.

Tých peňazí je málo. Zoberte si informatika, ktorý zostane pracovať vo výskume na univerzite. Bude zarábať niekedy dva dokonca aj štyrikrát menej, ako by mohol mať v priemysle. Nejako to funguje aj preto, že práca na univerzite a vo výskume všeobecne je veľmi zaujímavá, ste na hrane poznania, vymýšľate nové riešenia, poháňa vás zvedavosť a k tomu práca s ľuďmi podobného zmýšľania.

Produkuje Slovensko dostatok špecialistov pre inteligentné technológie?

Určite nie. Pre umelú inteligenciu potrebujeme mať kvalitné dáta, výpočtovú infraštruktúru a ľudí. Výpočtovú infraštruktúru dnes už dokážete zabezpečiť, ak máte dosť finančných zdrojov. Ale treba pozerať aj na životné prostredie. Vývoj úsporných riešení je veľká výzva. S dátami je to ešte náročnejšie, keďže už vytvorenie dobrého a vyváženého datasetu vyžaduje aj veľké ľudské úsilie. To, čo však je najdôležitejšie a zároveň trvá najdlhšie dosiahnuť, sú práve ľudia. Keď som sa zúčastňovala stretnutí v rámci práce expertnej skupiny pre umelú inteligenciu pri Európskej komisii v Bruseli, často som mala pocit, akoby som bola doma na Slovensku. Všetci v Európe máme totiž spoločný problém, máme nedostatok ľudí pre výskum a vývoj najnovších technológií. Nemci a Francúzi utekajú do Ameriky, Slováci do Nemecka. Veľký problém u nás je, že máme málo ľudí, ktorí by vôbec dokázali produkovať týchto odborníkov. Ak týchto ľudí nemáme a nevieme ich zaplatiť, ako potom môžeme mať dostatok špecialistov?

Podľa nedávnej štatistiky Inštitútu vzdelávacej politiky až 52 % maturantov, ktorí sú v najlepšom decile z matematiky, študuje v zahraničí. Väčšina tam aj zostane. Myslím, že to nie je tým, že by nemali záujem, skôr vnímajú, že v zahraničí sú príležitosti, ktoré na Slovensku nevidia.

Na zlepšenie konkurencieschopnosti firiem a vytvorenie príležitostí treba začať najmä s podporou výchovy expertov, ktorí sú schopní riešiť zložité aj nové problémy – doktorandov. Tých máme u nás v priemysle veľmi málo. Keď prídete do technologických firiem v zahraničí, pracujú u nich vo veľkom percente ľudia s PhD. Na Slovensku sa to pomaly začína meniť, ale ešte pred pár rokmi bolo u nás povedomie, že doktorát si robia len ľudia, ktorí chcú zostať na univerzite. 80 – 90 % z týchto ľudí by malo ísť do priemyslu. V zahraničí to tak je už dávno. Podľa mňa by sme mali práve výchovu týchto ľudí významne podporiť. Vychovať doktoranda je síce drahšie než vychovať bakalára, ale doktorand vám prinesie viac hodnoty z dlhodobého hľadiska. A keď je málo zdrojov treba investovať do výchovy tých, ktorí budú riešiť zložité problémy, podnikať a zabezpečia prostriedky pre ďalšie potrebné aktivity.

Akým témam sa vo výskume venujete vy?

Nehovorí sa mi to ľahko, ale výskumu momentálne venujem menej času, než by som chcela. Hľadám čas po večeroch. Väčšinu času venujem KInITu, budovaniu kultúry, získavaniu projektov a finančnej podpory. Chcem však povedať, že ma to napĺňa, keď vidím, ako po krôčikoch postupujeme a rada tomu venujem čas. Keď to zvládam, pokračujem vo výskume v tom, čím som sa zaoberala predtým na univerzite.

Väčšina z výskumnej skupiny, ktorú sme spoločne budovali, teraz pracuje v Inštitúte so mnou. Zaoberáme sa analýzami a modelovaním interakcií človeka s webom, odporúčaniami pre personalizáciu. Pred dvadsiatimi rokmi, keď sme s personalizáciou začínali, sme museli vo vedeckej komunite obhajovať, že je to užitočný koncept. Prispôsobovanie informačného obsahu pre rôznych ľudí nebola vôbec samozrejmá vec. Dnes to už každý považuje za úplne normálne. Toto ma veľmi baví a dá sa aplikovať v rôznych oblastiach. Dlho sme pracovali v doméne vzdelávania a tvorili sme personalizovaný vzdelávací systém pre študentov. Ďalej sme výskum aplikovali v e-commerce (internetový predaj, pozn. red.).

Ostatné dva-tri roky sa pridala téma, ktorá je mojou srdcovkou. Etika a dôveryhodná umelá inteligencia. Dlhodobo pociťujeme zodpovednosť za to, čo robíme a aký dopad to môže mať na spoločnosť. Už pred pätnástimi rokmi sme si uvedomovali, že musíme riešiť následky napríklad aj spomínanej personalizácie. S tým veľmi súvisí aj fenomén antisociálneho správania na webe, ktorý sme začali viac rozvíjať pred asi tromi rokmi, keď sme získali prvý projekt. Vtedy sme netušili ako skoro z tohto fenoménu vznikne takmer atómová bomba. Téma dezinformácií zároveň zapája viacero disciplín, nie je len otázkou technológií.

Čo skúmate pri dezinformáciách?

Vďaka technológiám dokážeme vymýšľať algoritmy na detekciu, triedenie alebo porovnávanie informácií. Ale ani ľudia samotní nevedia často správne identifikovať neúplné či nepravdivé informácie. Už pri samotnej definícii pravdy sa nedohodneme. Bez zapojenia psychológov, filozofov, sociológov a ďalších profesií sa nedostaneme k najlepšiemu riešeniu. Veľmi rada prepájam ľudí a spolupracujem naprieč rôznymi oblasťami. Napríklad pri výskume dezinformácií spolupracujeme aj s Filozofickou fakultou Univerzity Komenského, kde sú naozaj skvelí ľudia.

Hľadáme spôsoby a metódy, vďaka ktorým sa môže človek lepšie rozhodovať a vyhodnocovať informácie. Či už ide o analýzu šírenia informácií, hľadanie anomálií či typických vzorov v niektorých komunitách alebo skúmanie vplyvu rôznych mechanizmov. Napríklad na YouTube stačí niekoľko kliknutí na určitý typ videí, platforma vám začne odporúčať obsah a zrazu sa ocitáte v bubline, z ktorej sa nie je také ľahké dostať von. Nehovorím, že YouTube to robí zámerne, je to často práve žiadaná črta, keď sa ľuďom odporúča podobný obsah ako ten, ktorý už videli a môžeme si myslieť, že sa im páči.

Pri dezinformáciách to však môže spôsobiť veľké škody. Zároveň z aktuálneho výskumu v tejto oblasti vyplýva, že dezinformácie sa zrejme šíria inak ako klasické informácie. Nás ako výskumníkov zaujíma správanie týchto platforiem, zisťovanie, koľko úsilia človek potrebuje na to, aby sa vnoril či vynoril z takejto bubliny a aj ďalšie aspekty, ktoré môžu pomôcť aj v lepšom pochopení dopadov a zlepšiť odporúčanie či vyhodnocovanie informácií človekom. A nielen pre dezinformácie, ale aj pre odporúčanie v iných doménach.

Čo sú veľké otázniky etiky v umelej inteligencii?

Je tam viacero pohľadov. Sú základné hodnoty, ktoré ktoré uznávame, ako dôstojnosť človeka, autonómia, súkromie, spravodlivosť, zodpovednosť a tak ďalej. Zabezpečenie ich zachovania sa týka všetkých technológií, no pri umelej inteligencii sa táto téma dostala do popredia najmä vďaka netransparentnosti. Aj tie klasické technológie sú mnohokrát veľmi komplexné, ale sú pomerne priehľadné. Vieme opísať, v ktorej situácii sa čo bude diať.

Systémy s prvkami umelej inteligencie sa učia a v situáciách, o ktorých často ani tvorca neuvažoval, vykazujú nejaké správanie, ktoré veľakrát predstavuje dobré riešenie, mnohokrát pre vybrané problémy aj lepšie ako dosahujú ľudia. Taký ten klasický robustný systém by zahlásil, že nastala chyba. Systém založený na umelej inteligencii bude pracovať ďalej, dokáže sa aj zlepšovať. Vopred nevieme, ako sa bude správať. A často ani nerozumieme, prečo sa tak deje. A práve toto je niečo, čo spôsobuje neistotu.

Dôležité je premýšľať, aké dopady môže mať takáto technológia. Napríklad na naše súkromie. Čo sa môže stať, ak technológia nebude vyvinutá dostatočne transparentne. Keď nebude nikto vedieť vysvetliť, prečo sa niečo deje. Nebudeme schopní vyhodnotiť vlastnosti dôležité pre fungovanie systému. Asi sa zhodneme, že všetky dôležité rozhodnutia by mal robiť človek. Ale keď sa nad tým zamyslíme, naozaj ich robí človek, ak viac menej všetko vyklikáva tak, ako mu povie stroj? Toto je komplex otázok, ktoré sú veľmi dôležité a musíme ich skúmať. Dopredu sa musíme zamýšľať nad dopadmi, aké budú mať tieto technológie. Ale toto by malo byť súčasťou akéhokoľvek zodpovedného výskumu a vývoja, nemalo by sa týkať len umelej inteligencie.

V akom štádiu je to momentálne? Tvoríte odporúčania alebo existuje aj nejaký kontrolný orgán?

Kontrolný orgán neexistuje. A ja si myslím, že asi ani v dohľadnej dobe nebude. Za dôležité považujem, aby fungovali mechanizmy samoregulácie a vytvárali sme dobré odporúčania a po pochopení aj regulácie. Tu je výskum kľúčový. Európska komisia je v tomto smere aktívna. Veľa sa hovorí o odlišnom prístupe pre niektoré typy aplikácií, napríklad takých, ktoré majú v sebe biometriu. Som presvedčená, že princípy etiky treba riešiť a dokumentovať od začiatku vývoja produktu. Zároveň nie sme schopní všetko identifikovať vopred, vyvíjajú sa technológie a aj požiadavky a spôsoby ich použitia. A je v nich obrovský potenciál priniesť veľa dobra.

Toto sa však netýka len umelej inteligencie. Mnohokrát nevieme aj v iných oblastiach vyhodnotiť možné dopady. A spoločnosť sama si celé tisícročia definuje etiku a morálku. Mnoho vieme, máme zákony, ktoré vymedzujú časť z toho, čo je zlé. Ale existuje aj celá veľká škála skutkov, ktorú nevieme len tak jednoducho vyhodnotiť. A do toho príde technológia, ktorá je úžasná, ale zároveň nás zneisťuje. Cesta je porozumieť jej, skúmať ju, urobiť čo najviac z nej transparentné.

Ďalším dôležitým faktorom je úmysel. Dôveryhodná technológia by nemala byť len etická, ale aj robustná. To znamená, že hoci spravíte všetko eticky, niekomu môže táto technológia ublížiť. Ako príklad uvediem autonómne auto, ktoré dokáže automaticky rozlišovať dopravné značky a dodržiava všetky predpisy. Avšak ak technológia, ktorá implementuje rozpoznanie dopravnej značky, nie je dostatočne robustná, stačí malá zmena, ktorá môže mať veľké následky. Napríklad napadne sneh, algoritmus značku nerozpozná a auto spôsobí nehodu. Nemusel byť v tom žiadny zlý úmysel. Úlohou nás všetkých je vytvárať dostatočne robustné systémy, aby sme takéto situácie minimalizovali.

Ako sa vám v tom darí?

Myslím, že v súčasnosti máme stále viac otázok ako odpovedí. Tie otázky si však treba klásť. Aktuálne sa aj UNESCO vyjadruje k etike. Postupne sa táto téma dostáva do všetkých grémií. V KInITe sa tomu intenzívne venujeme. Má to dva aspekty. Jeden je, že dlhodobo je naším cieľom zodpovedný výskum. Etika je v tomto veľmi dôležitá. Ten druhý aspekt je, aby sme v spolupráci s firmami vštepili kritickej mase ľudí, ktorí používajú technológie na vývoj systémov, že toto sú významné otázky, ktorými sa musíme zaoberať. Čím skôr sa tomu začneme všetci venovať, tým lepšie budeme pripravení na to, čo sa deje a bude diať v Európe a aj vo svete.

Dá sa hovoriť o štandardoch etiky v technológiách, keď sú globálne?

Prirovnám to opäť k atómovým bombám a k zbrojeniu, ktoré vždy mali obrovské následky na spoločnosť. Aktuálne nás rozdeľujú a manipulujú dezinformačné kampane. Verím, že si s koronavírusom poradíme, ale s vírusom dezinformácií to bude omnoho ťažšie. To je tiež postavené na umelej inteligencii. V dlhodobejšom horizonte, ak to budeme vôbec schopní vyriešiť, musí ísť o celosvetovú globálnu dohodu. Vždy sa môže nájsť niekto, kto to poruší. Budú krajiny, ktoré sa nezapoja. Ale myslím, že sme dosiaľ lepší spôsob na riešenie globálnych otázok ľudstva ako dohodu ešte nenašli.

Kto by mal niesť zodpovednosť za šírenie dezinformácií? Ten človek, čo to šíri alebo tá platforma, ktorá to umožňuje?

Nie je to čierne alebo biele. Dôležitý je aj úmysel. Je rozdiel, ak niekto úmyselne založí falošný profil na sociálnej sieti a šíri rôzne upravené správy, ako keď takúto správu iný človek zdieľa, lebo jej uveril. Mali by sme diskutovať o tom, že aj ten druhý človek by za šírenie nepravdivých správ mohol byť postihovaný. Ale určite iným, miernejším spôsobom, ako ten prvý. Je to ako keď dieťa zhodí vázu, ale nespraví to preto, lebo ju chcelo rozbiť, ale preto, že je nemotorné, nešikovné. Je na rodičovi, aby vymyslel nejaký spôsob, aby si dieťa dávalo viac pozor a už sa mu to nestalo. Mali by sme nájsť mechanizmy, aby to umožnilo vzdelávanie ľudí aj v tejto oblasti. A najmä prestalo rozdeľovať spoločnosť.

Platforma je zodpovedná najmä za to, keď sa na nej nachádza nepravdivá informácia a umožní jej šírenie. Otázka je, či dnes dokážeme reálne zistiť, čo táto platforma spravila preto, aby takýmto situáciám zabránila. Zároveň pri súčasnej veľkosti niektorých platforiem ako napríklad Facebook a množstve prispievateľov identifikácia nenávistných, falošných či inak škodlivých správ je obrovský problém aj v prípade, že by tu bol skutočný úmysel pre zabránenie ich šíreniu. To však nijako nemení zodpovednosť. A ak to majitelia platformy nebudú schopní robiť, mala by spoločnosť, teda my všetci, zabezpečiť jej transformáciu.

Dôležité je ľudí naučiť rozlišovať dezinformácie a ignorovať ich. Pomáha v tom kontrola faktov, čo je aj zaujímavá výskumná výzva – vytváranie algoritmov, ktoré automaticky vyhľadávajú tvrdenia a argumenty pre ich podporu.

Propaganda tu bola vždy. Rozdiel dnes je v tom, že šírenie dezinformácií v digitálnom priestore exponenciálne narástlo.

Po útoku na Capitol v USA stiahli všetci veľkí technologickí hráči aplikáciu Parlor, na ktorej sa teroristi dohadovali o útoku. Bolo to správne rozhodnutie, ak sa títo ľudia jednoducho usídlia zase na inej sieti?

Nevieme zabrániť tomu, aby takíto ľudia na svete boli a robili takéto veci. To však neznamená, že sa voči tomu nebudeme brániť a aj aktívne robiť protiopatrenia. Je to nekonečný boj. Kým ľudstvo bude žiť, takéto veci sa budú diať. Je však na nás, aby sme sa vzdelávali a vychovávali ďalších, nech je percento týchto nebezpečných ľudí na zemi významne nižšie než tých ostatných. Žiadny človek nie je ani dobrý, ani zlý. Svet nie je čiernobiely. Aj tento človek s úmyslom šíriť falošnú informáciu možno sám netuší, do akej miery poškodzuje. Možno je to jeho norma, možno je to dôsledok prostredia, z ktorého pochádza. Technológie môžu významne pomôcť aj v riešení tohto problému, prispieť k odhaleniu manipulácií v digitálnom priestore.

Veľa ľudí sa bojí technológií, ešte viac sa ich bojí umelej inteligencie. Predstavujú si ju ako vo filme, kde nás všetkých zabije. Majú sa jej báť?

Ak sa ľudia chcú niečoho báť, tak ľudí a nie technológií. Všeobecná umelá inteligencia je ešte veľmi ďaleko, ak vôbec. Aj ohľadom autonómnych zbraní robia rozhodnutia ľudia. Myslím si, že najrozumnejšie, čo môžeme spraviť, je dávať dostatok zdrojov do výskumu a vzdelávania všeobecne a aj v kontexte fungovania v digitálnom svete. Vychovávame napokon tých ľudí, čo budú robiť rozhodnutia v technológiách.

Technológií ako takých sa podľa mňa vôbec nemusíme báť. Ony sú už všade okolo nás a my si to mnohokrát ani neuvedomujeme. Zlepšujú nám život. Každý má mobil a keď už nič iné, používa navigáciu. To by dnes nešlo, keby tam neboli optimalizačné algoritmy, ktoré už dnes využívajú algoritmy umelej inteligencie. Umelá inteligencia sa používa pri diagnostike v medicíne, pri optimalizácii spotreby zdrojov našej planéty, vytváranie inteligentných energetických sietí, pri zefektívnenie procesov a údržby zariadení a v mnohých ďalších oblastiach. Dôležité je pre každého vedieť na určitej úrovni komunikovať s technológiami a rozumieť nielen tomu ako funguje naše ľudské telo, ale aj tomu na akých princípoch fungujú počítače, ktoré sú všade okolo nás.

Ak sa vám tieto myšlienky páčia, zdieľaním pomôžete k ich šíreniu. Ďakujeme.

Mária Bieliková technologie umelá inteligencia vedecký výskum