AI - její schopnosti generování, napodobování i její rizika a etické problémy (komentovaná rešerše)

Komentovaná rešerše k předmětu: ISKM03 Literatura a knihovní procesy a trh

Abstrakt

Dynamický vývoj umělé inteligence (AI) by mohl charakterizovat dnešní dobu, jelikož jde o úžasný pokrok a otevírá nepřeberné množství možností pro lidstvo, protože jen stěží bychom nalezli obor, do kterého nezasahuje. Tuto rešerši vztahuji převážně k představení umělé inteligence, jejích modelů, funkcí a schopnosti učit se, a i jako nástroj využitelný ve vzdělávání či kreativním sektoru a generace textu (je-li schopna napodobit lidské jednání). Tímto se můžeme potýkat s mnohými problémy, kterým též věnuji část práce. Jedná se o etické hodnoty uživatelů, kteří tuto technologii zneužívají nebo se na ní přiživují, s čímž souvisí i problematika současného práva autorství. Tato odvětví jsou široká a různorodá a přesto mají společné využití, např. v rámci vzdělávání, kde studenti tvoří obsahy (literární či akademické texty, objekty, prezentace aj.).

Klíčová slova: Umělá inteligence, AI, ChatGPT, literatura, vzdělávání, autorská práva, generování textu, detekce AI

Úvod

Nová doba a nové výzvy společnosti, ze kterých vychází mnoho zajímavých otázek, ale i vážných problémů. Rozvoj umělé inteligence není výjimkou. Pomalu a jistě se stává nedílnou součástí různých odvětví a její vliv začíná být nepřehlédnutelný. Tato rešerše se zaměří na vyhledání zdrojů k představení této technologie, jejího fungování a principů, díky nimž se postupně učí nové věci a jakou hraje roli v oboru vzdělávání, literatury a umění. Tyto obory volím, protože se vzájemně doplňují a alespoň částečně na sebe navazují. V rámci literatury se jedná o učení se emocím, pochopení reakcí a generovat kreativní text, který má tzv. hlavu a patu a dokáže čtenáře překvapit zápletkou. Ve školství může pomáhat ve studiu a zodpovídat jejich otázky místo pedagogů. Do jaké míry je AI schopna vyhovět? Vyvstávají nějaké konkrétní problémy s jejím využitím?

Cíle: Nová doba a nové výzvy společnosti, ze kterých vychází mnoho zajímavých otázek, ale i vážných problémů. Rozvoj umělé inteligence není výjimkou. Pomalu a jistě se stává nedílnou součástí různých odvětví a její vliv začíná být nepřehlédnutelný. Tato rešerše se zaměří na vyhledání zdrojů k představení této technologie, jejího fungování a principů, díky nimž se postupně učí nové věci a jakou hraje roli v oboru vzdělávání, literatury a umění. Tyto obory volím, protože se vzájemně doplňují a alespoň částečně na sebe navazují. V rámci literatury se jedná o učení se emocím, pochopení reakcí a generovat kreativní text, který má tzv. hlavu a patu a dokáže čtenáře překvapit zápletkou. Ve školství může pomáhat ve studiu a zodpovídat jejich otázky místo pedagogů. Do jaké míry je AI schopna vyhovět? Vyvstávají nějaké konkrétní problémy s jejím využitím?

Zvolené zdroje:

1) False Face Must hide What The False Heart Doth Know: The Literary Face in the Age of AI

SUMNER, Tyne Daile. False Face Must Hide What the False Heart Doth Know. Adjunct Proceedings of the 2021 ACM International Joint Conference on Pervasive and Ubiquitous Computing and Proceedings of the 2021 ACM International Symposium on Wearable Computers [online]. New York, NY, USA: ACM, 2021, 2021, 253-255. ISBN 9781450384612. Dostupné z: doi:10.1145/3460418.3479339 nebo https://dl.acm.org/doi/10.1145/3460418.3479339. 

Článek se zabývá porovnáváním schopností umělé inteligence, konkrétněji její schopností rozpoznávání a porovnávání obličejů, přes učení se z nich základních lidských emocí (6 základních emocí dle studie Ekmana: strach, překvapení, smutek, radost, hněv a znechucení). Od tohoto se autoři dostávají k novému 'trendu' umělé inteligence a literatury. S pomocí University of Melbourne a University of Geneva vytvářejí projekt, který využívá literárních kontextů a porovnává je právě s lidskými emocemi a tím, jak je vepisujeme na papír ve formě textu.

"Literary texts present a crucial site for studying and analyzing emotional expression through the face, as well as instances of indi vidual subjectivity and gendered, racial, and cultural identity." Str. 254.

Díky psaným emocím se je nyní umělá inteligence sama učí a propojuje si je s vizuálním kontextem. To až do doby, kdy je schopna, je sama replikovat na vlastním textu (emoce čtenáře, vypravěče i samotných postav). Uvádějí, že AI má dosud problémy s dvojsmysly, klamy a skrytými emocemi a ukazují jej na příkladu od W. Shakespeara. Argumentují, že literatura poskytuje komplexní pohled na emoční projevy, které algoritmy nejsou schopny zatím chápat, jelikož jim unikají i smysly metafor a přirovnání.

2) Viewpoint: AI as Author - - Bridging The Gap

VAN HEERDEN, Imke a Anil BAS. Viewpoint: AI as Author – Bridging the Gap Between Machine Learning and Literary Theory. Journal of Artificial Intelligence Research [online]. 2021, 2021-05-06, 71, 175-189. ISSN 1076-9757. Dostupné z: doi:10.1613/jair.1.12593 nebo z: View of Viewpoint: AI as Author – Bridging the Gap Between Machine Learning and Literary Theory (jair.org)

"Algoritmy schopné generovat přirozený jazyk (Gatt & Krahmer, 2018) by mohly potencionálně změnit způsob prodeje, čtení a recenzování knih." Str. 175, překlad pomocí Deepl.

Jak citace napovídá, tato studie se zaměřuje na počítačovou kreativitu a její prvky (literatury i jiných druhů umění) a to, jak dokáže tuto lidskou schopnost replikovat k nepoznání. Cílem studie bylo generovat kreativní texty, které by byly k nerozeznání od těch napsané člověkem. Nabízí konkrétní příklady (lidských) autorů a práce umělé inteligence, které bylo dáno zadání pasující na díla (př. Shakespearových a AI úryvků sonetů) a vysvětlují, jak se AI učí za pomoci základní literární teorie a jaké jazykové překážky musí ještě překonat.

3) ChatGPT and OpenAI Models: A Preliminary Review

ROUMELIOTIS, Konstantinos I. a Nikolaos D. TSELIKAS. ChatGPT and Open-AI Models: A Preliminary Review. Future Internet [online]. 2023, 15(6). ISSN 1999-5903. Dostupné z: doi:10.3390/fi15060192

Text nabízí vhled do oblasti, kdy se ChatGPT školí a učí od uživatelů v přirozeném jazyce, díky čemuž poté (dle zadání) může tvořit kreativní texty. Díky tomu si otevírá dveře do světu literatury, marketingu a spousty dalších oborů. Předvádí historický vývoj ChatuGPT i tvorbě modelů. Ve 3. části se věnuje rozsáhlému přehledu zdrojů (47 a rozděleny do kategorií podle témat) píšících o nejnovějších inovacích a jejich analýze. V závěru zde autoři zmiňují pozitiva a negativa využití AI, která by se v nynější společností měla začít nejvíce řešit.

4) Computational literature – Creation under the Auspices of AI and GPT models

GOTCA, Rodica. Computational literature – creation under the auspices of AI and GPT models. Dialogica. Revistă de studii culturale și literatură [online]. 2023, (1), 28-37. ISSN 25873695. Dostupné z: doi:10.59295/DIA.2023.1.04 nebo Dialogica_01_2023_gotca.pdf (asm.md) 

Cílem článku je představit modely zpracovávání přirozeného jazyka pomocí GPT, vývoj AI v rámci počítačové literatury a její schopnost pochopit principy literárních žánrů. Autor zde vysvětluje fungování těchto modelů a pomocí čeho se učí. Jako vrchol (ve smyslu učení se vs. využití uživatelem) autorka považuje ChatGPT, který otevřel nové možnosti nejen literatury a rozebírá jeho jednotlivé verze. Článek byl ještě vydán před verzí ChatGPT 4, která byla pouze oznámena, přesto o ní hovoří jako o AI, která je schopna pokročilého a komplexního myšlení, vyhledávání, vedení dialogu, řešení problémů, manipulace s texty aj., ale i se schopností využití vlastní kreativity. Je důležité zmínit, že AI se učí od samotného uživatele a přizpůsobuje se. Text nezůstává pouze u plusů této technologie, ale upozorňuje i na její negativa, který jednotlivě rozebírá, př. Je nepochopení lidských emocí, prožitku nebo porozumění (což jsou důležité prvky v literatuře). Nabízí i přehled dalších nástrojů umělé inteligence s konkretizací na jejich zaměření.

5) When Irish Ais are smilling: could Irelands legislative approach be a model for resolving AI authorship forEU member states?

SCANNELL, Barry. When Irish Ais are smiling: could Ireland's legislative approach be a model for resolving AI authorship for EU member states? Journal of Intellectual Property Law & Practice [online]. 2022, 2022-09-01, 17(9), 727-740. ISSN 1747-1532. Dostupné z: doi:10.1093/jiplp/jpac068 nebo When Irish Ais are smiling: could Ireland's legislative approach be a model for resolving AI authorship for EU member states? | Journal of Intellectual Property Law & Practice | Oxford Academic (oup.com) 

Článek se zabývá, dnes aktuální, otázkou uznání umělé inteligence jako samostatného autora, jehož díla by se stávala veřejným vlastnictvím se zaměřením na autorská práva území Evropské unie. Snaží se odpovídat na otázky typu: do jaké míry musí zasahovat člověk, aby se na něj vztahovala autorská práva, a jak se k tomuto tématu kloní jednotlivé státy EU. Autorské právo je založeno na tom, aby byl autorem uznán pouze člověk a možnosti AI jsou zde jako neplatné entity, zákon jim nemůže zajistit ochranu. Technologie sice ještě není ve fázi, kdy by sama vytvořila plnohodnotná díla, ale jsou schopny minimalizovat práci člověka na konečném produktu, což můžeme nazývat začátkem problému autorství. Není možné rozeznat, kde končí kreativita člověka a začíná stroj, proto autoři tohoto článku nabízí možnou vidinu řešení po vzoru Irského a Britského modelu úprav – autorství patří osobě, která vykonala úkony potřebné a nezbytné k vytvoření díla. Přesto autor uznává, že to není ideální model do praxe, ale může sloužit jako výchozí bod.

6) Navigating the perils of artificial intelligence: a focused review on ChatGPT and responsible research and innovation

POLYPORTIS, Athanasios a Nikolaos PAHOS. Navigating the perils of artificial intelligence: a focused review on ChatGPT and responsible research and innovation. Humanities and Social Sciences Communications [online]. 2024, 11(1). ISSN 2662-9992. Dostupné z: doi:10.1057/s41599-023-02464-6 neno Navigating the perils of artificial intelligence: a focused review on ChatGPT and responsible research and innovation | Humanities and Social Sciences Communications (nature.com)

Článek se primárně snaží zabývat potencionálními problémy, úskalími a implementací ChatuGPT, a to na různých společenských úrovních. Druhou primární složkou je zaměření na inovace a udržitelné využití chatbotů. Studie využívá cílenou rešerši literatury, na jejímž základě tvoří komplexní návrh přístupu pro práci s umělou inteligencí. Odhalují klíčovou roli technologie a nutnost správného vývoje, na kterém by se měli aktivně účastnit různé vrstvy společnosti (inovátoři, akademici, odborníci z praxe i široká veřejnost), aby docílili minimalizace rizik a nebezpečí.

7) České školy a umělá inteligence

KOPECKÝ, Kamil, René SZOTKOWSKI, Dominik VORÁČ, Veronika KREJČÍ a Pavla DOBEŠOVÁ. České školy a umělá inteligence – výzkumná zpráva [online]. Verze 1.0. Univerzita Palackého v Olomouci, Centrum prevence rizikové virtuální komunikace, Microsoft Česko & Slovensko, 2023. Dostupné z: https://www.e-bezpeci.cz/index.php/ke-stazeni/vyzkumne-zpravy/163-ceske-skoly-a-umela-inteligence-2023/file 

Výzkum představuje různorodé pohledy a názory českých pedagogů (2 175) na možnost zavedení AI do každodenní výuky. Výzkum byl prováděn formou online dotazníku vytvořeného přes Microsoft Forms a cíleně zaslaného do škol i pedagogům. Dle výsledků se drtivá většina pedagogů shodla na zavedení umělé inteligence do výuky (pouze necelých 20 % nesouhlasila), přestože se necítí být na tuto novou éru necítí být připraveni (cca 30 % pedagogů se bojí jejího vlivu, dalších 30 % ji naopak vítají a ti ostatní o této problematice netuší). Pedagogové AI vnímají jako nástroj k podvádění a již dnes si myslí, že její různé možnosti (překlad, počty, tvorba slohových prací či prezentací aj.) žáci využívají. Zde je i důležité zmínit, že více než 30 % pedagogů potvrdila, že aktivně využívají různé formy AI pro tvorbu obsahu do výuky – kde je hranice ochrany (před podváděním) a pokrytectvím?

8) Testing of detection tools for AI-generated text

WEBER-WULFF, Debora, Alla ANOHINA-NAUMECA, Sonja BJELOBABA, Tomáš FOLTÝNEK, Jean GUERRERO-DIB, Olumide POPOOLA, Petr ŠIGUT a Lorna WADDINGTON. Testing of detection tools for AI-generated text. International Journal for Educational Integrity [online]. 2023, 19(1). ISSN 1833-2595. Dostupné z: doi:10.1007/s40979-023-00146-z nebo Testing of detection tools for AI-generated text | International Journal for Educational Integrity | Full Text (biomedcentral.com) 

Text upozorňuje na zneužití a nesprávné používání nástrojů umělé inteligence převážně na akademické půdě a zkoumá možná řešení. V akademické sféře je důležité, aby studenti dodržovali etiku a hodnoty, které ke studiu patří, proto je důležité dokázat rozlišovat mezi texty psaném člověkem a texty generované AI. Představuje čtenáři principy a historii LLM (modelů AI), zabývají se i cizími studiemi stejného tématu – představují je a porovnávají. Dále představují vlastní výstupy a několik možných vzorců hodnocení. Dále vysvětlují, jaké jsou nejčastější poklesy přesnosti (strojový překlad, ruční editace aj.). Došli k závěrům, že žádný z těchto nástrojů detekce AI není vhodný pro akademické prostředí a že neexistuje spolehlivý způsob, jak takový text detekovat, proto radí pedagogům cílit na prevenci a vést studenty k dodržování etických hodnot studia (tzn. neznehodnocovali studium VŠ).

9) Creative Use of OpenAI in Educations: Case Studies from Game Development

FRENCH, Fiona et al. Creative Use of OpenAI in Education: Case Studies from Game Development. Multimodal Technologies and Interaction [online]. 2023, vol. 7, no. 8, s. 81.

Tento článek byl tvořen v rámci praxe ve výuky studentů a pedagogy ze School of Computing and Digital Media at London Metropolitan University, kteří za využití OpenAI k vytvoření funkčních her a vyhodnotit užitečnost/použitelnost této technologie. Autoři v článku předkládají 5 případových studií, které mají reprezentovat některé ze studentských výstupů.

10) Exploring the Acceptance of ChatGPT as a Learning Tool among Academicians: A Qualitative Study

MUKRED, Muaadh, Umi Asma' MOKHTAR a Burkan HAWASH. Exploring the Acceptance of ChatGPT as a Learning Tool among Academicians: A Qualitative Study. Jurnal Komunikasi: Malaysian Journal of Communication [online]. 2023, 2023-12-21, 39(4), 306-323. ISSN 22891528. Dostupné z: doi:10.17576/JKMJC-2023-3904-16

Článek se zabývá využitím ChatGPT v rámci výuky na vysokých školách, kde by poskytovala podporu a pomáhala v učení studenta (na podobném principu jako vyučující) na míru vzdělávacích požadavků a preferencí. Cílem bylo objasnit 6 základních témat: vnímanou užitečnost, snadnost ovládání, sociální vliv, podpora a školení, rizika a příležitosti. Zároveň nabízí vývojářům AI a pedagogům možnosti a faktory funkčního využití AI pro výuku (i s jejími klady a zápory).

Přehled zahrnutých výzkumných studií:

Závěr k rešerši:

Závěrem rešerše mohu říct, že jsem nalezla články, které se podrobně věnují všem zákoutím, která mne zajímala a věnují se jim pečlivě a srozumitelně je představují. Demonstrují i to, jakým způsobem umělá inteligence stále mění svět a kam může směřovat, či kam by měla směřovat. Zabývala jsem se i problematikou, která se přímo váže na zvolení témata, a to problémy: autorství a plagiátorství (spojené se schopností generovat text podobný lidskému), které můžeme nalézt především ve školním prostředí, ale i literatuře. Zvolené studie podávají návrhy, jak se k technologii chovat eticky, protože to je naše zatím jediná obrana.

Je umělá inteligence dobrý společník, nebo ne? Těžko soudit, jelikož vždy záleží na jeho uživatelích a morálce, se kterou s ním pracují. Tedy může nám velmi pomoci, ale může být i zneužit a zatím není příliš (spolehlivých) způsobů, jak těmto negativům bránit a odhalovat je, na což se specializuje právě jedna ze studií výše. Je nutné, aby se s ní lidé naučili správně zacházet, už jen právě proto, jaký získává AI vliv.