Slovenský expert na umělou inteligenci Michal Valko opustil Google, aby pracoval pro Metu po boku Marka Zuckerberga. Po roce mu dal sbohem a buduje vlastní startup, o kterém sebevědomě prohlašuje, že „bude úžasný“.
Před několika desetiletími musel každý, kdo chtěl odpověď na složitější otázku nebo potřeboval napsat seminární práci, navštívit knihovnu. Buď svou vlastní, nebo městskou. Před pár lety už stačilo položit otázku vyhledávači Google a projít si několik stránek.
Během posledního roku si mnozí z nás zvykli ptát se umělé inteligence. Jazykový model poskytne odpověď na vaši otázku za sekundu. Psanou práci napíše za vás.
Kdo je ale ten pravý odborník, pokud se chceme zeptat, co vlastně umělá inteligence je a jaká je její budoucnost? Odpověď časopisu Forbes je jasná: slovenský „AInstein“ Michal Valko.
Tenhle vědec se umělé inteligenci věnuje již desítky let. Rozhovor s ním trval téměř tři hodiny a příprava na něj ještě mnohem déle. Na doplňující otázky trpělivě odpovídal i během focení na titulní stranu Forbesu.
Má to v rodině
Studoval jste informatiku na Univerzitě Komenského v Bratislavě. To bylo na začátku tohoto tisíciletí. Jak jste se vlastně dostal k tématu umělé inteligence?
Téma umělé inteligence má v naší rodině dlouhou tradici. Už moje matka ji studovala. V roce 1976 na Univerzitě Pavla Jozefa Šafárika v Košicích. Stejně tak moje prateta pracovala na ENIACu (ENIAC byl první plně elektronkový počítač na světě. Jeho vývoj začal v roce 1943 na University of Pennsylvania, USA.)
Umělá inteligence tedy pro mě nebyla na univerzitě žádná novinka. Byla kolem mě už dávno předtím, protože se jí moje rodina hodně věnovala.
Na Fakultě matematiky, fyziky a informatiky Univerzity Komenského v Bratislavě jsem studoval obor umělá inteligence. Zároveň jsem na Slovenské akademii věd trénoval s docentem Radem Harmanem neuronové sítě. Už od roku 2000 jsem měl na škole předměty zaměřené na umělou inteligenci.
Studium doktorátu v USA nebylo pro nás v ročníku nic výjimečného. Mnozí tam pokračovali stejně jako já. Někteří už tam rovnou i zůstali.
Jste jedním z nejvýznamnějších odborníků na umělou inteligenci. Pět let jste působil v pařížské pobočce Googlu, konkrétně v divizi DeepMind, která se věnuje výzkumu a vývoji AI. Jak jste se tam dostal?
Tak, že jsem tu pařížskou divizi společně s Rémim Munosem (francouzský matematik a počítačový vědec) vybudoval.
Začínal jsem prací pro Intel ve Spojených státech s kolegou Branislavem Kvetoňem, který je v Silicon Valley už dlouho. Poté jsem chtěl více pracovat na akademických věcech. Podílel jsem se na evropském projektu CompLACS. To byl rok 2011.
Na konci projektu založili odborníci na AI DeepMind. V té době jsem se rozhodl k nim nepřidat, protože jsem chtěl jít vlastní cestou. DeepMind pak najal skoro všechny mé kolegy – až 95 procent všech výzkumníků v oblasti Reinforcement Learning (učení posilováním). S DeepMindem jsem od začátku spolupracoval tak, že jsem jim posílal studenty a psal s nimi vědecké články jako akademický pracovník.
Kdy přišel zlom?
V roce 2018 mi zavolal můj bývalý doktorandský školitel Rémi Munos, jestli bych s ním nevybudoval pařížskou pobočku DeepMindu.
Když zavolá Zuckerberg
Začátkem roku 2024 jste nastoupil do společnosti Meta. Proč jste se rozhodl odejít z Googlu?
Mým úkolem v DeepMindu bylo vybudovat výzkumnou laboratoř. Po úspěchu s BYOL (Bootstrap Your Own Latent, metoda strojového učení) jsem se věnoval velkým jazykovým modelům, jako jsou Sparrow, Bard či Gemini. Byl jsem tam přesně na den pět let.
Když se blížil konec mé pětileté smlouvy v DeepMindu, moje mateřská instituce Inria (francouzská veřejná vědecká a technologická instituce specializující se na matematiku a informatiku) se mě ptala, jaké mám další plány. Přemýšlel jsem, jestli není čas začít pracovat na něčem vlastním. Založit vlastní firmu.
Když jsem byl v Silicon Valley, měl jsem tam mnoho přednášek – v OpenAI, Applu, Amazonu i v desítkách startupů. Dostal jsem od nich nabídky, ale řekl jsem si, že si to ještě musím promyslet. Odjel jsem na dovolenou přemýšlet o tom, co dál se svým životem.
Na co jste přišel?
Během dovolené se mi ozval Mark Zuckerberg a řekl, že AI je pro něj klíčová a chce se mnou spolupracovat. Pak už šlo všechno velmi rychle. Nebyl žádný pohovor, rozhovory trvaly jen pár minut. Rovnou přišla nabídka na práci s tím, že bych vedl svůj vlastní tým složený z lidí z DeepMindu. Pamatuji si, že Mark tomu tehdy říkal „Valkova šestka“.
To bylo hodně rychlé…
Když jsem se vrátil z dovolené, už jsem začal pracovat na jazykovém modelu Llama 3 (nejnovější velký jazykový model společnosti Meta, uvedený v červenci 2024). V té době nebylo mnoho odborníků zaměřených na Reinforcement Learning (učení posilováním). DeepMind měl v té době asi pět set až šest set výzkumníků v této oblasti, zatímco Meta neměla téměř žádného.
Překvapil ho
Ne mnoho Slováků má možnost osobně se setkat se zakladatelem Facebooku Markem Zuckerbergem, vy jste se s ním ale přímo setkal. Jaký je ve skutečnosti?
Bavili jsme se asi čtyři hodiny, od půlnoci do čtvrté ráno. Nechtěl, aby se mi kvůli tomu posouval časový režim, a tak se rozhodl přijít v šest večer a odcházel až v šest ráno. Pamatuji si, že se více ptal, než mluvil.
Zajímal se o můj názor – co si myslím a co chci dělat. Překvapilo mě, že mi pokládal velmi technické otázky. Nečekal jsem od šéfa tak velké firmy se 70 000 zaměstnanci, že bude tak detailně znát problematiku. Klidně se mě ptal i na matematické otázky, které byly naprosto relevantní a „k věci“.
Byl to velmi otevřený rozhovor. Na všechny mé otázky odpovídal přímo a nic netajil.
Když jsem byl v Silicon Valley, měl jsem tam mnoho přednášek – v OpenAI, Applu, Amazonu i v desítkách startupů. Také od nich jsem dostal nabídky.
Jak na vás působil během rozhovoru?
Mark, stejně jako mnoho dalších lidí, působí jinak při osobním setkání a jinak, když dává rozhovory. Vy novináři o tom jistě víte své. Mluvil se mnou i o osobních věcech – například o tom, jak si zranil koleno a nemohl se věnovat bojovým sportům. Kromě studia informatiky studoval i psychologii.
Je vidět, že mu to velmi pomáhá. Už nyní přemýšlí nad tím, jak budeme v budoucnu komunikovat s umělou inteligencí. I proto tolik investuje do metaverza a speciálních brýlí, které umožní přímou interakci s AI. Nechci předpovídat budoucnost, ale komunikace s umělou inteligencí bude pravděpodobně více hlasová než textová.
Překvapila vás série jeho rozhodnutí, jako je konec ověřování faktů na Facebooku, která přišla v době nástupu Trumpa?
Už nepracuji v Metě, nyní se věnuji svému vlastnímu startupu. Proto se raději nebudu vyjadřovat k interním záležitostem Mety.
Vlastní startup
Pracujete v Paříži. Nelákal vás život a práce v Silicon Valley?
Nyní jsem sice v Paříži, ale často cestuji mezi Paříží, New Yorkem a San Franciscem. Trávím hodně času přímo v Silicon Valley.
Jak vypadá váš běžný pracovní den?
Posilovna je můj rituál. Už pět let je každodenní součástí mého života. Tak začínám den.
Nemám typický den, protože každý den je jiný. Teď mám například termín na odevzdání článků na konferenci o umělé inteligenci. Pak mám v plánu rozhovory s inženýry a příští týden mě čekají přednášky na summitu o AI organizovaném Emmanuelem Macronem. Kdyby byl každý den stejný, moc by se mi to nelíbilo.
Co vám dalo působení v Metě?
Umožnilo mi vidět každou fázi trénování modelů. Byla to pro mě velká škola – už jsem neřídil lidi, ale sám prováděl experimenty. Naučil jsem se tam opravdu hodně.
Když byl vývoj modelu Llama 3 dokončen, řekl jsem si: „Děkuji, splnil jsem si to, co jsem chtěl,“ a pustil jsem se do vlastního startupu.
Foto Robo Homola
Pracuji na něm už delší dobu. Zatím jsme jméno nezveřejnili. Jediné, co mohu říct, je, že pracujeme na nových velkých jazykových modelech. Bude to úžasné.
„Losers“
Nebál jste se odejít z jistého zaměstnání do nejistého prostředí startupů?
Vůbec ne. K podnikání nás vedli už na střední škole a pokračovalo to i během mého doktorandského studia v USA. V Silicon Valley je skoro každý podnikatel a ti, kdo jdou pracovat do Googlu nebo Mety, jsou tam považováni za „losery“.
V Kanadě, na Slovensku a obecně v Evropě je pro studenty informatiky velkým cílem dostat se do velkých technologických firem v Silicon Valley. Naopak lidé přímo ze Silicon Valley to vidí úplně jinak. Mladí tam čtou biografie zakladatelů velkých firem a od začátku přemýšlejí podnikatelsky. To prostředí je prostě nastavené jinak.
Mimo jiné také mentoruji startupy mých studentů. Svět startupů pro mě není nový.
Jak budou vaše jazykové modely jiné než ty od OpenAI, Google, Mety nebo DeepSeeku?
Firmy, které jste zmínil, se zaměřují na obecné jazykové modely. My k tomu přistupujeme jinak. Naše modely jsou navrženy tak, aby dosahovaly konkrétních cílů ve specifických oblastech.
Jaká bude vaše role v novém startupu?
Moje pozice je Chief Models Officer (výkonný ředitel pro jazykové modely). Je to úplně nová funkce a jsme průkopníky v jejím zavádění.
Tímto krokem chceme dát světu jasně najevo, jak důležité jsou pro nás jazykové modely. Zároveň je to i signál pro trh – ukazujeme, že k vývoji jazykových modelů přistupujeme jinak.
Můžete prozradit nějaká zajímavá jména, která ve startupu pracují?
Pracuje u nás mnoho šikovných a oddaných lidí, což je podle mě důležitější než zmínit nějaké konkrétní známé jméno. O všech ale brzy uslyšíte.
Mentor Valko
Máte už pro startup vymyšlené jméno? A kdy by mohl být váš jazykový model uveden?
Název už máme, ale stejně jako každý dobrý příběh i tento potřebuje prvky překvapení. Takže ještě chvíli počkejme, než ho oficiálně oznámíme.
Foto Robo Homola
Jaké máte ambice se startupem a co můžete světu přinést?
Chceme demokratizovat přístup k rozumovým schopnostem takovým způsobem, který by monumentálně změnil svět. Nechte se překvapit.
Pojďme se vrátit ke startupům, kterým pomáháte a mentorujete je. Které to jsou a čemu se věnují?
Jeden z nich se jmenuje Sword Health. Je to portugalská firma, která funguje už osm let. Zabývají se fyzickou terapií – pomocí tabletu zobrazují cviky, například na záda, a propojují umělou inteligenci přímo s lékaři. Tento systém pomáhá lidem, kteří mají děti, hodně cestují nebo bydlí v místech, kde není dostatek fyzioterapeutů nebo si je nemohou dovolit.
Jaké další startupy podporujete?
Dalším startupem je Entalpic, kde jsem také angel investor (investor, který poskytuje kapitál v rané fázi vývoje společnosti). Zaměřují se na vývoj nových materiálů, které by pomohly zmírnit dopady klimatických změn.
Třetí startup se jmenuje Lithosquare a specializuje se na hledání vzácných kovů. Ty jsou zásadní například pro výrobu baterií do elektrických vozidel. Kvůli geopolitickým problémům je obtížné získávat je z Číny. Tento startup využívá umělou inteligenci k analýze desetiletí starých studií a na základě dat určuje, kde jsou nejlepší lokality pro těžbu vzácných kovů.
kdo je Michal Valko
Michal Valko vystudoval umělou inteligenci a matematické metody v informatice na Fakultě matematiky, fyziky a informatiky Univerzity Komenského v Bratislavě. Doktorandské studium absolvoval na Univerzitě v Pittsburghu. Od roku 2011 je součástí týmu SequeL francouzského Národního institutu pro výzkum v oblasti informatiky a automatizace (Inria) a přednáší na ENS Paris-Saclay v Paříži.
Strávil pět let ve společnosti Google, kde v roce 2019 zakládal pařížskou laboratoř společnosti DeepMind, která se specializuje na výzkum umělé inteligence. Zajímal se především o navrhování algoritmů, které vyžadují minimální lidský zásah. Díky práci pro DeepMind se stal součástí žebříčku Forbes Changemakers.
Po letech na pozicích v největších amerických technologických společnostech, jako jsou Google, Meta a Intel, vstupuje do světa startupů. Od nového roku je zakládajícím členem startupu, který je odpovědí i na DeepSeek. Je také ambasadorem ocenění ESET Science Award.
