Zabrinutosti i Rizici oko AI

Postoji toliko mnogo pitanja i zabrinutosti oko AI, da bi mogli ispuniti čitave knjige. Evo oblaka riječi tema koje pratim. Siguran sam da propuštam nekoliko.

Dostupno je mnogo informacija o svakoj od ovih tema, i ohrabrujem vas da čitate što dublje možete. Moguće je da ćete zaključiti da rizici nadmašuju koristi, i da ne želite koristiti AI, bilo lično ili unutar vaše organizacije. Ta odluka donosi svoje rizike; uobičajeno, da budete ostavljeni za sobom. Ali to je lični izbor.

Ako googlate “knjige o rizicima AI” pronaći ćete izbor vrijednih knjiga. Nedavni podcast koji sam našao posebno zastrašujućim bio je razgovor Ezre Kleina sa Dariom Amodeijem, suosnivačem i izvršnim direktorom kompanije Anthropic (kompanija koja razvija Claude.ai). Saznate da su ove kompanije svjesne rizika. Amodei se referira na interni sistem klasifikacije rizika nazvan A.S.L., za “Nivoi Sigurnosti AI” (ne Američki znakovni jezik). Trenutno smo na ASL 2, “sistemi koji pokazuju rane znakove opasnih sposobnosti - na primjer sposobnost davanja uputa kako izgraditi biološko oružje.” On opisuje ASL 4 kao “omogućavanje državnim akterima da značajno povećaju svoje sposobnosti… gdje bismo brinuli da bi Sjeverna Koreja, Kina ili Rusija mogli značajno unaprijediti svoje ofanzivne sposobnosti u raznim vojnim područjima s AI na način koji bi im dao značajnu prednost na geopolitičkom nivou.” Zastrašujuće stvari.

U ovom sumornom kontekstu, istaknut ću najvažnija pitanja za pisce i izdavače.

Pitanja autorskih prava su i specifična i široka. Dobro je poznato da su svi LLM-ovi obučeni na otvorenom webu—sve što se može prikupiti sa 1,5 milijardi stranica na webu danas, uključujući novinske članke, objave na društvenim mrežama, web blogove i, očigledno, transkripte YouTube videozapisa.

Dokazano je da je barem jedan od LLM-ova unio stvarne tekstove hiljada knjiga koje nisu u javnom vlasništvu.

Da li je bilo legalno unijeti sav ovaj tekst kako bi se izgradile AI kompanije vrijedne milijarde dolara, bez ikakve naknade autorima? AI kompanije svoj argument temelje na poštenoj upotrebi; sudovi će na kraju odlučiti. Čak i ako je bilo legalno, da li je bilo etično ili moralno? Etika izgleda manje kompleksno nego pravna razmatranja. Vi odlučite.

Zakoni koji se odnose na autorska prava očigledno nisu predvidjeli jedinstvene izazove koje AI donosi u ovo pitanje, i traženje pravnih rješenja će trajati, možda godinama. (Ako želite dublje istražiti zašto zakoni nisu prikladni za ovaj specifični problem, pročitajte odličan rad A. Feder Coopera i Jamesa Grimmelmann-a pod nazivom “Datoteke su u računaru: Autorska prava, Memorija i Generativni AI.”)

Evo liste trinaest najistaknutijih tužbi, koje se ne odnose samo na knjige; također slike i muziku. I evo još jedne liste koja ažurira status svih tužbi.

Stav Ureda za autorska prava SAD-a o autorskim pravima na sadržaj generiran AI-om navodi da AI sam po sebi ne može imati autorska prava jer nema pravni status autora. To ima smisla. Ali ovo podrazumijeva da je 100% djela generirano AI-om. Kao što je diskutovano drugdje, malo je vjerovatno da će autori dozvoliti AI-u da generira cijelu knjigu. Vjerovatnije je da će to biti 5%, ili 10% ili… I ovdje Ured za autorska prava zapinje (kao i ja).

U nedavnoj odluci Ured je zaključio da grafički roman sastavljen od teksta koji su napisali ljudi i slika generiranih AI uslugom Midjourney predstavlja djelo koje se može zaštititi autorskim pravima, ali da se pojedinačne slike same po sebi ne mogu zaštititi autorskim pravima. Jeez!

Neki porede trenutnu parnicu sa tužbom protiv Google knjiga, koja je trajala 10 godina da se pravno riješi. Ko zna koliko će dugo trajati proces žalbe za ove predmete. U međuvremenu, izdavači su mudri da djeluju kao da će AI kompanije izgubiti, što, barem teoretski, izlaže svakoga ko licencira, ili možda čak koristi Chat AI, nekoj vrsti kontingentne odgovornosti.

Ali to nije najteži problem izdavača. To je percepcija. Za mnoge autore, neki istaknuti, neki nepoznati, izvor je kontaminiran. AI je radioaktivan unutar zajednice pisaca i izdavača. Sve što iole miriše na AI privlači intenzivne kritike.

Postoji mnogo primjera. U nedavnom incidentu Angry Robot, britanski izdavač “posvećen najboljoj modernoj odrasloj naučnoj fantastici, fantaziji i WTF,” najavio je da će koristiti AI softver, nazvan Storywise, da bi pregledao očekivano veliki broj prijava rukopisa. Trebalo je samo pet sati da kompanija odustane od plana i vrati se na “stari inbox.“

Nepodnošljiva dilema za izdavače u korištenju AI alata interno: ako vaši autori saznaju, teško ćete se nositi s rezultirajućom olujom. Vjerujem da izdavači nemaju izbora nego biti hrabri, usvojiti (barem neke od) alata, jasno objasniti kako su ti alati obučeni i kako se koriste, te nastaviti dalje.

U Velikoj Britaniji, Društvo autora zauzima strogi pristup: “Zamolite svog izdavača da potvrdi da neće značajno koristiti AI u bilo koju svrhu u vezi s vašim djelom - kao što su lektura, uređivanje (uključujući provjeru autentičnosti i provjeru činjenica), indeksiranje, pravna provjera, dizajn i izgled, ili bilo što drugo bez vašeg pristanka. Možda ćete htjeti zabraniti naraciju audioknjiga, prijevod i dizajn naslovnica koje je izradio AI.”

Čini se da Udruženje autora prihvata da “izdavači počinju istraživati korištenje AI kao alata u uobičajenom toku svojih operacija, uključujući uređivačke i marketinške svrhe.” Ne mislim da mnogi članovi Udruženja imaju isto razumijevanje.

Većina izdavača, kao i mnogi autori, traže načine za licenciranje sadržaja AI kompanijama. Svi imaju različite ideje o tome kakvi bi trebali biti uvjeti licenciranja i koliko vrijedi njihov sadržaj, ali barem su rasprave u tijeku.

Postoji nekoliko startupova koji žele surađivati s izdavačima (a u nekim slučajevima i sa pojedinačnim autorima). Calliope Networks i Created by Humans su oba zanimljiva u tom pogledu.

Sredinom jula, Copyright Clearance Center, dugogodišnji glavni igrač u industriji kolektivnog licenciranja autorskih prava, objavio je dostupnost “prava na ponovno korištenje umjetne inteligencije (AI) unutar svojih godišnjih licenci za autorska prava (ACL), sveobuhvatno rješenje za licenciranje sadržaja koje nudi prava iz miliona djela poslovnim subjektima koji se pretplate.”

Publishers Weekly pokrio je objavu, citirajući Tracey Armstrong, predsjednicu i izvršnu direktoricu CCC-a, koja kaže “Moguće je biti pro-AI i pro-autorska prava, i spojiti AI s poštovanjem prema kreatorima.”

Iako nije sveobuhvatno, ovo je vjerovatno proboj u približavanju izdavaštva stupnju suradnje s developerima velikih jezičkih modela.

Umjetna inteligencija, u različitim oblicima, već je integrirana u većinu softverskih alata i usluga koje svakodnevno koristimo. Ljudi se oslanjaju na AI za provjeru pravopisa i gramatike u programima kao što su Microsoft Word ili Gmail. Microsoft Word i PowerPoint koriste AI za pružanje prijedloga za pisanje, ponudu preporuka za dizajn i izgled, i još mnogo toga. Virtualni asistenti kao što su Siri i Alexa koriste obradu prirodnog jezika za razumijevanje glasovnih naredbi i odgovaranje na pitanja. Usluge e-pošte koriste AI za filtriranje poruka, otkrivanje spama i slanje upozorenja. AI pokreće chatbotove za korisničku podršku i generira preporuke proizvoda na temelju vaše povijesti kupovine.

I mnogo toga se temelji na velikim jezičkim modelima, kao što je slučaj s ChatGPT-om.

Za autora ili urednika da kažu, “Ne želim da se AI koristi na mom rukopisu,” je, uopšteno govoreći, gotovo nemoguće, osim ako i oni i njihovi urednici ne rade s pisaćim mašinama i olovkama.

Mogli bi pokušati reći, “Ne želim generativni AI” da se koristi na njihovoj knjizi. Ali to je teško razlučiti. Softver za provjeru gramatike nije prvobitno izgrađen na generativnom AI-ju. Grammarly ga je dodao kao sastojak svom proizvodu, kao i svi ostali alati za provjeru pravopisa i gramatike. Generativni AI je također ključan za marketinški softver koji se nudi.

Još jedan aspekt autora i korištenja AI-a ima sličnosti sa pitanjem autorskih prava koje je gore razmatrano. U ekstremnim slučajevima, vidimo 100% AI-generisan sadržaj koji se objavljuje na Amazonu. Većina toga (sve?) je lošeg kvaliteta, ali to ga ne sprečava da se objavi. (Pogledajte i odjeljak o Amazonu.) Zabrinjavajuće za izdavače su AI-generisani prilozi. Da, AI povećava kvantitet, ali veliki izdavači već imaju filter za kvantitet. Ti filteri se zovu agenti. Oni su ti koji će morati smisliti kako da se nose s problemom kvantiteta, i očigledno će morati pronaći rješenje koje ne koristi AI.

Radi se o egzistencijalnom problemu - želim li objaviti knjigu napisanu od strane ‘mašine’? Za većinu izdavača to je jednoznačno ‘ne.’ Lako. Pa, šta je sa knjigom gdje je 50% sadržaja generisano od strane LLM-a, pod nadzorom sposobnog autora? Hmm, pokušajmo s ‘ne’ i na to. OK: a šta je sa 25%, ili 10%, ili 5%? Gdje povlačite granicu?

I, sada kada ste ušli u posao povlačenja linija, kako rješavate dilemu da se pravopisni i gramatički alati sada oslanjaju, barem djelomično, na generativnu AI? Šta je sa alatima za transkripciju pokretanim AI-om, poput Otter.ai, ili funkcijom transkripcije ugrađenom u Microsoft Word?

Ne mogu pronaći nijednog izdavača koji je izjavio da neće objaviti djelo sa unaprijed određenom količinom AI-generisanog teksta. Evo što Authors Guild kaže na tu temu:

“Ako je značajna količina AI-generisanog teksta, likova ili zapleta uključena u vaš rukopis, morate to otkriti svom izdavaču i također biste trebali to otkriti čitatelju. Ne mislimo da je potrebno da autori otkrivaju upotrebu generativne AI kada se koristi samo kao alat za brainstormanje, generiranje ideja ili za lekturu.”

Nepotrebno je reći da ‘značajna’ nije definirana (Oxford to definira kao “dovoljno velika da se primijeti ili smatra važnom”), ali post nastavlja objašnjavati da bi uključivanje više od “de minimis AI-generisanog teksta” kršilo većinu izdavačkih ugovora. De minimis, u pravnim terminima, nije precizno specificirano, ali, općenito govoreći, znači više-manje isto što i značajna.

Održao sam webinar o otkrivanju AI, sponzoriran od strane BISG-a, u maju 2024. Snimak je online na YouTubeu. Jane Friedman je ponudila sveobuhvatan prikaz webinara u svom Hot Sheet biltenu.

Za mnoge autore, toksičnost AI znači držati ga daleko od svojih riječi. Izdavači nose poseban teret - oni ne stvaraju tekst, ali, jednom objavljen, preuzimaju značajnu obavezu prema tekstu. Vidjeli smo puno dinamita koji eksplodira blizu zapaljivih knjiga, bilo zbog društvenih implikacija sadržaja, ili plagijarističkog prisvajanja riječi i ideja drugih pisaca. Sada se s AI suočavamo s potpuno novim setom etičkih i pravnih pitanja, od kojih nijedno nije bilo navedeno u izdavačkoj školi.

Dio toga izgleda slično onome zbog čega se ljudi brinu za studente, da je korištenje AI na neki način varanje, slično prepisivanju iz članka na Wikipediji, ili možda samo traženju prijatelja da napiše vaš esej.

Jedan od naših govornika na webinaru, edukator, José Bowen, podijelio je svoje otkrivanje za studente. Nije baš to što bi koristili za autora, ali pokazuje neku vrstu “nivoa rizika” upotrebe AI-a.

Šablon za Otkriće za Studente

• Sav ovaj rad sam uradio/la samostalno bez pomoći prijatelja, alata, tehnologije ili AI-a.

• Uradio/la sam prvi nacrt, ali tada sam pitao/la prijatelje/porodicu, AI za parafraziranje/gramatiku/plagijat softver da ga pročitaju i daju prijedloge. Napravio/la sam sljedeće promjene nakon ove pomoći:

  • Ispravio/la pravopis i gramatiku

  • Promijenio/la strukturu ili redoslijed

  • Prepisao/la cijele rečenice/paragrafe

• Zapeo/la sam na problemima i koristio/la rječnik, zvao/la prijatelja, otišao/la u centar za pomoć, koristio/la Chegg ili drugog pružatelja rješenja.

• Koristio/la sam AI/prijatelje/tutora da mi pomognu generirati ideje.

• Koristio/la sam pomoć/alate/AI da napravim nacrt/prvi nacrt, koji sam tada uredio/la. (Opisi prirodu svog doprinosa.)

I tako bi izdavač mogao sastaviti nešto ovako za svoje autore. Recimo da autor otkrije najviši nivo: Koristio/la sam AI uveliko, zatim uredio/la rezultate. Šta onda? Automatski odbijate rukopis? Ako je tako, zašto?

I, u međuvremenu, ako obraćate pažnju, saznajete da je rukopis koji ste upravo pročitali i voljeli, za koji je autor zakleo da ga čak ni Grammarly nije provjerio, mogao biti 90% generisan od strane AI-a, od strane autora stručnjaka za prikrivanje njegove upotrebe.

Tada ste prisiljeni preispitati pitanje. Postaje, “Zašto sam tako prokleto odlučan otkriti ovu stvar koja je neotkriva?”

Dijelom je to alarmantna zabrinutost oko autorstva teksta generiranog AI-em. Ured za autorska prava neće ponuditi zaštitu autorskih prava za 100% AI-generirani tekst (ili muziku, slike itd.). Ali šta je sa 50% AI-generiranog teksta? Pa, pokrili bismo samo onih 50% koje je generisao autor. I kako biste znali koja je polovina? Javićemo vam se oko toga.

Zar ne bi bilo sjajno kada biste mogli jednostavno ubaciti svaki rukopis u neki softver koji bi vam rekao da li je AI korišten u kreiranju teksta?

Ostavljajući po strani pitanje da bi jedini način da se to uradi bio korištenje AI alata, važnije pitanje je, da li bi softver bio (dovoljno) tačan? Da li bih mogao da se oslonim na njega da mi kaže da li je AI korišten u kreiranju rukopisa? I da li bih mogao da se oslonim na to da ne proizvodi “lažno pozitivne” rezultate - da ukaže da je AI korišten, kada zapravo nije?

Sada postoji puno softvera na tržištu koji se bavi ovim izazovima. Mnoge akademske studije koje procjenjuju ovaj softver ukazuju na njegovu nepouzdanost. Tekst generiran AI-em prolazi neopaženo. Još gore, tekst koji nije generiran AI-em lažno se označava kao kontaminiran.

Ali izdavači knjiga će htjeti neku vrstu zaštite. Izgleda da bi, u najboljem slučaju, ovi alati mogli upozoriti na moguće zabrinutosti, ali bi uvijek bilo potrebno dvostruko provjeriti. Dakle, možda bi vas mogli upozoriti na tekstove koje treba pažljivije pregledati od drugih? Da li je to efikasnost?

Prava efikasnost će se naći u prevazilaženju zabrinutosti oko nastanka teksta, umjesto toga održavajući naše postojeće kriterije u pogledu njegovog kvaliteta.

“Neće vas zamijeniti AI. Zamijenit će vas neko ko zna kako koristiti AI.” —Anoniman

Gubitak posla zbog usvajanja AI-a mogao bi biti ozbiljan. Procjene variraju, ali brojke su sumorne. Postoje očigledni primjeri: taksiji bez vozača u San Franciscu eliminiraju… taksi i vozače za dijeljenje prijevoza. AI-podržana dijagnostika mogla bi smanjiti potrebu za medicinskim tehničarima.

Optimista u meni ukazuje, kao jedan primjer, na uvođenje tablica i njihov utjecaj na zapošljavanje. Kao što vidite na grafikonu ispod, zapošljavanje u “Računovodstvu, pripremi poreza, knjigovodstvu i uslugama obračuna plaća” gotovo je udvostručeno od 1990. godine - teško da je to optužba za tablice i druge tehnologije koje su uglavnom automatizirale ove zadatke.

Studija Ethana Mollicka sa Boston Consulting Group (BCG) bila je eksperiment koji je imao za cilj bolje razumijevanje utjecaja AI-a na rad, posebno na složene i znanjem intenzivne zadatke. Studija je uključivala 758 BCG konzultanata, nasumično raspoređenih da koriste ili ne koriste OpenAI-ov GPT-4 za dva zadatka: kreativnu inovaciju proizvoda i rješavanje poslovnih problema. Studija je mjerila performanse, ponašanje i stavove učesnika, kao i kvalitet i karakteristike AI outputa.

Među nalazima je bilo da “AI djeluje kao izjednačavač vještina. Konzultanti koji su postigli najlošije rezultate kada smo ih procjenjivali na početku eksperimenta imali su najveći skok u performansama, 43%, kada su dobili priliku da koriste AI. Najbolji konzultanti su također dobili poticaj, ali manji.” Cijeli članak je otkrivajući, i kao i sav Mollickov rad, provokativan, ali pristupačan.

Obrazovanje je bilo u centru pažnje u debatama za i protiv AI-a. Uvođenje AI-a u učionice se uglavnom vidi kao prokletstvo, ili barem kao izazov. Drugi edukatori, poput glavnog govornika PW-a Ethana Mollicka, prihvataju AI kao izvanredan novi alat za edukatore; Mollick insistira da njegovi studenti rade sa ChatGPT-om.

Najbolja knjiga na ovu temu je Nastava sa AI: Praktični vodič za novu eru ljudskog učenja od José Antonio Bowen i C. Edward Watson.

Neću ulaziti u izdavaštvo u obrazovanju u ovoj knjizi - to je ogromna tema, koja zahtijeva poseban izvještaj. Argumentirano, izdavaštvo postaje drugorazredno u okviru obrazovanja: AI alati su softver, a ne sadržaj, per se.

Perpleksnost ide korak dalje, preformulišući informacije koje prikuplja iz više izvora tako da zaista ne morate kliknuti na link. Ona pruža linkove do svojih izvora, ali obično nije potrebno kliknuti na njih – već imate odgovor na svoje pitanje.

Ovaj naizgled skroman pomak ima ogromne implikacije za svaku kompaniju i svaki proizvod koji se, barem djelimično, oslanja na otkrivanje putem pretraživača. Ako pretraživači više ne šalju korisnike na vašu stranicu, kako ih možete angažovati i pretvoriti u kupce? Jednostavan odgovor, ne možete.

Joanna Penn je na čelu razmišljanja o uticaju novih tehnologija na pisanje i izdavaštvo. Ona je obradila ovu složenu temu na svom podcastu i blogu prošlog decembra.

Još uvijek su rani dani za AI i transformaciju pretraživanja.

Amazon sada zahtijeva od autora da otkriju detalje o korištenju AI u stvaranju svojih knjiga. Nema sumnje da se ovo može zloupotrijebiti.

Pokušajte pretraživati na Amazonu za “AI-generisane knjige.” Ima ih mnogo. Neki od rezultata su knjige o tome kako koristiti AI za stvaranje knjiga. Ali druge su, nesumnjivo, AI-generisane. “Smešne i slatke slike mačaka - Ne možete vidjeti ove vrste fotografija u svijetu - DIO-1” (stet) je pripisana Rajasekar Kasi. Nema detalja o njegovoj (?) biografiji na stranici autora, ali šest drugih naslova je pripisano tom imenu. Knjiga, objavljena 26. avgusta 2023. godine, nema recenzija i nema prodajni rang. Nepravilni naslov e-knjige se ne podudara sa nepravilnim naslovom na korici štampane knjige.

Ali drugi autori očigledno koriste AI opsežno u stvaranju svojih knjiga, i ne otkrivaju to. Kao što sam gore raspravljao, otkrivanje upotrebe AI je gotovo nemoguće sa vještim ‘falsifikatorima’. Knjige za bojanje, dnevnici, putopisne knjige i kuharice se generišu pomoću AI alata za djelić vremena i truda tradicionalnog izdavaštva.

Pretražite “korejska veganska kuharica” i pronaći ćete naslov broj jedan, autora Joanne Lee Molinaro, na prvom mjestu. Ali odmah iza njega su drugi naslovi koji su očigledne kopije. “Korejska veganska kuharica: Jednostavni i ukusni tradicionalni i moderni recepti za ljubitelje korejske kuhinje” ima dvije recenzije, uključujući jednu koja napominje “Ovo nije veganska kuharica. Svi recepti imaju sastojke od mesa i jaja.” Ali knjiga je na #5,869,771 po prodajnom rangu, u odnosu na originalnu koja je na #2,852 na listi.

Teško je odrediti obim štete uzrokovane ovim. Ništa dobro ne može proizaći iz ovoga, ali koliko je loše?

Amazon ima politike koje mu omogućavaju uklanjanje bilo koje knjige koja ne pruža “pozitivno iskustvo za kupce.” Kindle smjernice o sadržaju zabranjuju “opisni sadržaj koji ima za cilj obmanuti kupce ili koji ne predstavlja tačno sadržaj knjige.” Oni također mogu blokirati “sadržaj koji je tipično razočaravajući za kupce.” Da li je ogroman broj taj koji savladava Amazonove nadzornike? Ili postoji neki drugi razlog?

LLM-ovi su obučeni na onome što je već objavljeno online. Ono što je objavljeno online je puno pristrasnosti i tako LLM-ovi odražavaju tu pristrasnost. I naravno ne samo pristrasnost, već i mržnju, koja se odražava u njihovom učenju, a sada i u potencijalnom izlazu AI-generisanih riječi i slika. Pornografija je još jedan prirodni korisnik AI-jevih izvanrednih sposobnosti sa slikama, i postoje nedavne uznemirujuće priče o mladim ženama koje pronalaze fabrikovane gole slike, sa njihovim muškim školskim kolegama kao vjerovatnim osumnjičenima. The New York Times je odvojeno izvijestio o povećanju broja online slika seksualnog zlostavljanja djece.

Autori i izdavači trebaju biti svjesni ovih ugrađenih ograničenja kada koriste AI alate.