Sdílejte

Rozhovor

AI: Usínáme pomalu za volantem?

01.07.2024

Usínáme za volantem, aneb jak rychle nás umělá inteligence nahradí, a hlavně v čem? Má smysl se jejímu vlivu bránit? Jakub Sedláček z Národního institutu SYRI a Univerzity Karlovy říká, že AI se musíme naučit využívat, ale také kriticky vyhodnocovat její výstupy a chápat limity. Zatím podle něj není třeba bít na poplach. Neodzvonilo ani závěrečným pracím ani práci s textem jako takové. Učitelé ale nové situaci musí přizpůsobit výuku a školy podmínky atestace, to je nezbytné.

Umělá inteligence se stala fenoménem posledních měsíců. Její nárůst a využití je masivní. Jaký je její dopad v univerzitním prostředí? Končí skutečně domácí úkoly a závěrečné práce?

 

Hlásat konec závěrečných prací nebo dokonce práce s textem jako takové není zatím nutné. Ztratila snad smysl výuka matematiky, když přišly kalkulačky? Kalkulačka nám pomáhá se specifickými úkony, ale matematické myšlení nenahradí. Stejně tak současné podoby umělé inteligence. Učitelé jednoduše nové situaci musí přizpůsobit výuku a školy podmínky atestace. Pokud si budeme hrát na to, že se svět nezměnil a pojedeme ve starých kolejích, dostaneme se do situace, kdy umělá inteligence vypracuje učiteli zadání úkolu, žákovi jeho řešení a učitel nakonec s její pomocí úkol ještě opraví. Zapotí se u toho nanejvýš počítač. Význam domácí práce přitom může díky AI naopak vzrůst, protože AI otevírá nové možnosti instruktáže i procvičování. Úkoly a jejich hodnocení ale musí reflektovat novou realitu, tedy že každý teď máme v kapse nejen kalkulačku, ale i jakousi „kalkulačku pro práci s textem“. Pokud třeba tu bakalářku chápeme jako teoretický referát, smysl opravdu pomalu ztrácí, protože na trojku nám to AI s nějakou dopomocí sesmolí. Zaměřme bakalářky raději na výzkum nebo jiné praktické projekty a s jejich rešeršními a literárními aspekty ať klidně pomůže generativní AI.

 

Rozezná vůbec učitel, zda text napsala AI nebo ne?

S jistotou ne. Existující detektory, odhalující texty vytvořené umělou inteligencí, jich podle výzkumů odhalí v průměru sotva 40 procent. A co je horší, lidmi psaný text správně vyhodnotí v méně než sedmdesáti procentech případů. Podle některých detektorů napsala umělá inteligence například Bibli. Umělý původ textu jde zároveň úspěšně skrýt třeba vložením gramatických chyb a jinými drobnými manipulacemi. Pak přesnost odhalení klesá podle některých studií až někam na 17 procent.

 

Mluvíte o AI gramotnosti. Co si máme pod tímto pojmem představit?

AI dokáže vyrovnávat výkonnostní rozdíly mezi studenty i pracovníky, ale některé skupiny mohou zůstat uvězněné za novou digitální propastí. Budeme se muset naučit pracovat na AI gramotnosti zranitelných skupin jako jsou senioři, lidé s nižším vzděláním a různé marginalizované komunity. Jinými slovy zajistit aktivní spolupráci škol, knihoven, neziskových organizací, médií, technologických firem a tvůrců politik.

 

Co všechno aktuální proměna zahrnuje?

Spoléhání na příliš dobrou AI vede k tomu, co někteří kolegové nazývají usnutím za volantem: lidé mají tendenci slepě důvěřovat doporučením vysoce kvalitní AI a přestávají kriticky myslet. „Spícího řidiče“ AI potom jednoduše nahradí. Obzvlášť ohrožené budou juniorní pozice, což může nabourat výchovu pracovníků seniorních. Musíme se naučit vnímat AI jako pomocníka, který je v něčem geniální a v něčem až šokujícím způsobem hloupý, a nikoli jako náhradu lidského úsudku. Studenti musí být vedeni i ke kritickému vyhodnocování výstupů AI a chápání jejích limitů.

 

AI je spojená i s obrazem a tím pádem i deepfake. Na internetu nyní lidé volí miss AI, to je v podstatě zábava, ale AI je schopná celkově vizuálně měnit realitu toho, jak nazíráme na svět. Logicky se ptáme, co je ještě pravé. Co s tím?

Generované mediální artefakty nás brzy zaplaví a musíme s tím počítat. Uspořádat pro studenty a zaměstnance jednorázovou pasivní přednášku „jak poznat deepfake“ nestačí, i když je to rozhodně dobrý začátek. Studenti musí s technologií sami dlouhodobě pracovat a pochopit její neustále se vyvíjející možnosti a limity. Důležité je také budovat důvěru v média, protože bez ní nebude nikdo brzy věřit ničemu. Marginalizace důvěryhodnosti médií zejména ze strany politiků je velký problém nejen v české společnosti a vede k její další zbytečné polarizaci, což vidíme teď například na Slovensku. Samotná existence deepfaků v kombinaci s nedůvěrou v média umožňuje každému odmítnout libovolný důkaz a popírat realitu.

 

Jak adaptuje AI vědecký svět, pomáhá při psaní vědeckých prací?

Ano, vědci s pomocí jazykových modelů píšou články a nemá smysl to popírat. Například výskyt anglických slov a frází typických pro ChatGPT v roce 2023 ve vědeckých publikacích skokově narostl. Ve valné většině případů to ale bude znamenat, že nerodilí mluvčí si s pomocí umělé inteligence dělají v podstatě sofistikovanou korekturu anglických textů, což je za mě skvělý příklad využití jazykových modelů právě jako „kalkulaček pro práci s textem“, které nenahrazují lidský úsudek.

 

Foto: Jakub Sedláček na konferenci SYRI v Senátu

Kontakt

Mgr. Jakub Sedláček Ph.D.

Zařazení: juniorní výzkumník
+420 221 619 910 jakub.sedlacek@ff.cuni.cz