Obavy a rizika týkající se AI

Existuje tolik problémů a obav kolem AI, že by zaplnily celé svazky. Zde je word cloud témat, která sleduji. Jsem si jistý, že mi pár chybí.

Je k dispozici spousta informací o každém z těchto témat a doporučuji vám číst co nejhlouběji, jak můžete. Je možné, že dospějete k závěru, že rizika převažují nad výhodami a že nechcete využívat AI, ať už osobně nebo ve své organizaci. Toto rozhodnutí s sebou přináší vlastní rizika; obvyklé, být pozadu. Ale je to osobní volba.

Pokud si vygooglíte “knihy týkající se rizik AI”, najdete výběr hodnotných svazků. Nedávný podcast, který jsem považoval za zvlášť děsivý, byl rozhovor Ezry Kleina s Dariem Amodei, spoluzakladatelem a generálním ředitelem společnosti Anthropic (společnost, která vyvíjí Claude.ai). Dozvíte se, že tyto společnosti jsou si vědomy rizik. Amodei odkazuje na interní systém klasifikace rizik nazvaný A.S.L., pro “Úrovně bezpečnosti AI” (ne americká znaková řeč). Momentálně jsme na ASL 2, “systémy, které ukazují rané známky nebezpečných schopností – například schopnost dávat instrukce, jak postavit biologické zbraně.” Popisuje ASL 4 jako “umožnění státním aktérům výrazně zvýšit jejich schopnosti… kde bychom se obávali, že Severní Korea nebo Čína nebo Rusko by mohly výrazně zlepšit své útočné schopnosti v různých vojenských oblastech s AI způsobem, který by jim poskytl značnou výhodu na geopolitické úrovni.” Děsivé věci.

V tomto ponurém kontextu vyzdvihnu nejdůležitější otázky pro autory a vydavatele.

Otázky autorských práv jsou jak specifické, tak široké. Je dobře známo, že všechny LLM jsou trénovány na otevřeném webu – vše, co lze seškrábat z 1,5 miliardy webových stránek, ať už jde o novinové články, příspěvky na sociálních sítích, webové blogy a, zjevně, přepisy videí na YouTube.

Je prokazatelné, že alespoň jeden z LLM pohltil skutečný text tisíců knih, které nejsou ve veřejné doméně.

Bylo legální pohlcovat všechny tyto texty k vytváření miliardových AI společností bez jakékoli kompenzace autorům? AI společnosti argumentují spravedlivým užitím; soudy nakonec rozhodnou. I kdyby to bylo legální, bylo to etické nebo morální? Etika se zdá méně složitá než právní otázky. Rozhodněte se sami.

Zákony týkající se autorských práv samozřejmě nepředpokládaly jedinečné výzvy, které AI přináší, a hledání právních řešení zabere čas, možná roky. (Pokud se chcete ponořit hlouběji do toho, proč jsou zákony nevhodné pro daný problém, přečtěte si vynikající článek od A. Feder Coopera a Jamese Grimmelmann nazvaný “The Files are in the Computer: Copyright, Memorization, and Generative AI.”)

Zde je seznam třinácti nejvýznamnějších žalob, ne všechny se týkají knih; také obrazů a hudby. A zde je další seznam, který aktualizuje stav všech žalob.

Stanovisko amerického Úřadu pro autorská práva ke schopnosti AI generovat obsah chráněný autorským právem uvádí, že AI sama nemůže držet autorská práva, protože postrádá právní status autora. To dává smysl. Ale to předpokládá, že 100 % díla je generováno AI. Jak je diskutováno jinde, málokterý autor nechá AI vygenerovat celou knihu. Pravděpodobněji to bude 5 %, nebo 10 % nebo… A zde Úřad pro autorská práva zakopává (stejně jako já).

V nedávnějším rozhodnutí Úřad dospěl k závěru, že grafický román sestávající z textu napsaného lidmi a obrazů generovaných službou AI Midjourney představuje dílo chráněné autorským právem, ale jednotlivé obrazy samotné nelze chránit autorským právem.“ Bože!

Někteří srovnávají současné soudní spory s žalobou na Google knihy, jejíž právní řešení trvalo 10 let. Kdo ví, jak dlouho se bude táhnout odvolací proces u těchto podání. Mezitím je pro vydavatele rozumné jednat, jako by AI společnosti prohrály, což teoreticky vystavuje každého, kdo licencuje nebo snad i jen používá Chat AI, nějaké formě podmíněné odpovědnosti.

Ale to není nejzávažnější problém vydavatele. Je to vnímání. Pro mnohé autory, některé prominentní, některé neznámé, je studna otrávená. AI je v komunitě spisovatelů a vydavatelů radioaktivní. Cokoli, co jen zavání AI, přitahuje intenzivní kritiku.

Existuje mnoho příkladů. V nedávném incidentu britský vydavatel Angry Robot, “věnovaný tomu nejlepšímu v moderní dospělé sci-fi, fantasy a WTF,” oznámil, že bude používat software AI nazvaný Storywise, aby prošel očekávaným velkým množstvím zaslaných rukopisů. Trvalo jen pět hodin, než společnost upustila od plánu a vrátila se k “staré poštovní schránce.“

Nesnesitelné dilema pro obchodní vydavatele při používání nástrojů AI interně: pokud se vaši autoři o tom dozvědí, budete mít těžké časy, abyste přečkali následnou bouři. Věřím, že vydavatelé nemají jinou možnost než být odvážní, přijmout (alespoň některé z) nástrojů, jasně vysvětlit, jak jsou tyto nástroje trénovány a jak jsou využívány, a pokračovat dál.

Ve Velké Británii Společnost autorů zaujímá tvrdý postoj: “Požádejte svého vydavatele, aby potvrdil, že nebude podstatně využívat AI pro žádný účel ve spojení s vaší prací - jako je korektura, úprava (včetně autenticitních čtení a ověřování faktů), indexace, právní prověrky, design a rozvržení, nebo cokoli jiného bez vašeho souhlasu. Můžete zakázat naraci audioknih, překlad a návrh obálky vytvořené AI.”

Guilda autorů se zdá přijímat, že “vydavatelé začínají zkoumat používání AI jako nástroje v běžném chodu jejich operací, včetně redakčních a marketingových využití.” Nemyslím si, že mnoho členů Guildy je tak chápavých.

Většina vydavatelů a mnoho autorů hledá způsoby, jak licencovat obsah pro AI společnosti. Každý má jinou představu o tom, jaké by měly být licenční podmínky a kolik jejich obsah stojí, ale alespoň diskuse jsou v plném proudu.

Existuje několik startupů, které hledají spolupráci s vydavateli (a v některých případech i s jednotlivými autory). Calliope Networks a Created by Humans jsou v tomto ohledu zajímavé.

V polovině července Copyright Clearance Center, dlouho hlavní hráč v kolektivním licencování autorských práv v tomto odvětví, oznámilo dostupnost “práv na opětovné použití umělé inteligence (AI) v rámci svých ročních licencí na autorská práva (ACL), což je řešení licencování obsahu pro celé podniky, které nabízí práva na miliony děl podnikům, které si je předplatí.”

Publishers Weekly pokryly oznámení, cituje Tracey Armstrong, prezidentku a CEO CCC, která říká “Je možné být pro-AI a pro-autorská práva a spojit AI s respektem k tvůrcům.”

I když to není všezahrnující, toto je pravděpodobně průlom v posunu vydavatelství blíže k určité spolupráci s vývojáři velkých jazykových modelů.

Umělá inteligence, v různých formách, již byla integrována do většiny softwarových nástrojů a služeb, které používáme každý den. Lidé se spoléhají na AI-řízenou kontrolu pravopisu a gramatiky v programech jako Microsoft Word nebo Gmail. Microsoft Word a PowerPoint používají AI k poskytování návrhů na psaní, nabízení návrhů na design a rozvržení a další. Virtuální asistenti jako Siri a Alexa používají zpracování přirozeného jazyka k pochopení hlasových příkazů a odpovědím na otázky. Emailové služby využívají AI k filtrování zpráv, detekci spamu a odesílání upozornění. AI pohání zákaznické servisní chatboty a generuje doporučení produktů na základě vaší historie nákupů.

A mnoho z toho je založeno na Velkých jazykových modelech, stejně jako je tomu u ChatGPT.

Aby autor nebo redaktor řekl: “Nechci, aby byla na mém rukopisu použita AI,” je, obecně řečeno, téměř nemožné, pokud oni i jejich redaktoři nepracují s psacími stroji a tužkami.

Mohli by se pokusit říct: “Nechci, aby byla na mé knize použita generativní AI.” Ale to je těžké oddělit. Software pro kontrolu gramatiky nebyl původně postaven na generativní AI. Grammarly ji přidala jako složku do svého produktu, stejně jako všechny ostatní kontroly pravopisu a gramatiky. Generativní AI je také jádrem marketingového softwaru, který je nabízen.

Další aspekt autorů a používání AI má podobnosti s otázkou autorských práv diskutovanou výše. V extrému vidíme 100% AI-generovaný obsah publikovaný na Amazonu. Většina z toho (všechno?) je strašné kvality, ale to nebrání jeho publikování. (Viz také sekce Amazon.) Více znepokojující pro vydavatele jsou AI-generované příspěvky. Ano, AI zvyšuje množství, ale velcí vydavatelé již mají filtr na množství. Tyto filtry se nazývají agenti. Jsou to oni, kdo budou muset přijít na to, jak zvládnout problém množství, a očividně budou muset najít řešení, které nezaměstnává AI.

Je to něco jako existenciální problém – chci vydat knihu napsanou ‘strojem’? Pro většinu vydavatelů je to jednoznačné ‘ne’. Snadné jako facka. Dobře, co takhle kniha, kde bylo 50 % obsahu vytvořeno LLM pod dohledem schopného autora? Hmm, zkusme také ‘ne’. OK: co takhle 25 %, nebo 10 %, nebo 5 %? Kde stanovíte hranici?

A teď, když jste vstoupili do podnikání s kreslením linek, jak vyřešíte dilema, že pravopis a nástroje pro gramatiku nyní částečně spoléhají na generativní AI? Co nástroje pro přepis poháněné AI, jako je Otter.ai, nebo funkce přepisu zabudovaná do Microsoft Word?

Nemohu najít žádného obchodního vydavatele, který by prohlásil, že nevydá dílo s předem stanoveným množstvím textu vytvořeného AI. Zde je stanovisko Authors Guild k tomuto tématu:

“Pokud je ve vašem rukopisu začleněno značné množství textu, postav nebo děje vytvořených AI, musíte to sdělit svému vydavateli a měli byste to také sdělit čtenáři. Nemyslíme si, že je nutné, aby autoři zveřejňovali použití generativní AI, když je použita pouze jako nástroj pro brainstorming, generování nápadů nebo pro kopírovací úpravy.”

Netřeba dodávat, že ‘značné’ není definováno (Oxford to definuje jako “dostatečně velké, aby bylo zaznamenáno nebo považováno za důležité”), ale příspěvek pokračuje vysvětlením, že zařazení více než “de minimis textu vytvořeného AI” by porušilo většinu vydavatelských smluv. De minimis, v právních termínech, není přesně specifikováno, ale obecně řečeno, znamená více či méně to samé jako značné.

V květnu 2024 jsem pořádal webinář o detekci AI, sponzorovaný BISG. Záznam je online na YouTube. Jane Friedman nabídla komplexní popis webináře ve svém newsletteru Hot Sheet.

Pro mnoho autorů znamená toxicita AI držet ji daleko od jejich slov. Vydavatelé nesou zvláštní břemeno - nevytvářejí text, ale jakmile je publikován, nesou značnou odpovědnost za text. Viděli jsme mnoho dynamitu explodovat poblíž výbušných knih, ať už jde o sociální dopady obsahu nebo plagiátorské krádeže slov a nápadů jiných spisovatelů. Nyní s AI čelíme celé nové sadě etických a právních problémů, z nichž žádný nebyl uveden ve vydavatelské škole.

Část z toho se zdá být podobná tomu, čeho se lidé obávají u studentů, že používání AI je nějakým způsobem podvádění, podobné kopírování z článku na Wikipedii nebo možná jen požádání přítele o napsání eseje.

Jeden z našich řečníků na webináři, pedagog José Bowen, sdílel své zveřejnění pro studenty. Není to přesně to, co byste použili pro autora, ale ukazuje to nějaké “úrovně rizika” používání AI.

Šablona prohlášení o zveřejnění pro studenty

• Veškerou tuto práci jsem udělal sám bez pomoci přátel, nástrojů, technologií nebo AI.

• Udělal jsem první návrh, ale pak jsem požádal přátele/rodinu, AI parafrázovací/gramatický/plagiátorský software, aby si to přečetli a udělali návrhy. Po této pomoci jsem provedl následující změny:

  • Opraven pravopis a gramatika

  • Změna struktury nebo pořadí

  • Přepsání celých vět/odstavců

• Zasekl jsem se na problémech a použil jsem tezaurus, slovník, zavolal příteli, šel do centra pomoci, použil Chegg nebo jiného poskytovatele řešení.

• Použil jsem AI/přátele/tutora k generování nápadů.

• Použil jsem pomoc/nástroje/AI k vytvoření osnovy/prvního návrhu, který jsem pak upravil. (Popište povahu svého příspěvku.)

A tak by vydavatel mohl něco podobného vypracovat pro své autory. Řekněme, že autor zveřejní nejvyšší úroveň: Použil jsem AI rozsáhle, pak jsem výsledky upravil. Co pak? Automaticky odmítnete rukopis? Pokud ano, proč?

A mezitím, pokud věnujete pozornost, zjistíte, že rukopis, který jste právě četli a milovali, o kterém autor tvrdil, že ani nebyl zkontrolován Grammarly, mohl být ve skutečnosti z 90 % vytvořen AI, od autora experta na skrývání jejího použití.

Pak jste nuceni znovu promyslet otázku. Stává se z ní, “Proč jsem tak zatraceně odhodlaný detekovat tuto věc, která je neodhalitelná?”

Částečně jde o alarmistické obavy týkající se autorské ochrany textů generovaných AI. Autorský úřad nenabídne autorskou ochranu 100% textů generovaných AI (nebo hudby, nebo obrázků atd.). Ale co 50% textu generovaného AI? No, pokryli bychom pouze 50% generované autorem. A jak byste věděli, která polovina? K tomu se vrátíme později.

Nebyla by to paráda, kdybyste mohli jednoduše vložit každý rukopis do nějakého softwaru, který by vám řekl, zda byl při tvorbě textu použit AI?

Ponecháme-li stranou otázku, že jediný způsob, jak to udělat, by bylo použití AI nástrojů, důležitější otázkou je, zda by byl software (dostatečně) přesný? Mohl bych se na něj spolehnout, že mi řekne, zda byl při tvorbě rukopisu použit AI? A mohl bych se spolehnout na to, že nebude produkovat “falešně pozitivní výsledky” - označovat, že byl použit AI, když ve skutečnosti nebyl?

Na trhu je nyní spousta softwaru, který se těmito výzvami zabývá. Mnohé akademické studie hodnotící tento software poukazují na jeho nespolehlivost. Texty generované AI proklouznou. Horší je, že texty, které nebyly generovány AI, jsou mylně označovány jako kontaminované.

Ale nakladatelé knih budou chtít mít nějaké záruky. Zdá se, že v nejlepším případě by tyto nástroje mohly upozornit na možné obavy, ale vždy by bylo nutné to zkontrolovat. Možná by vás tedy mohly upozornit na texty, které je třeba pečlivěji prozkoumat než jiné? Je to efektivita?

Skutečná efektivita bude nalezena v tom, že se posuneme za obavy o původ textu, místo toho si zachováme naše stávající kritéria týkající se jeho kvality.

“Nebudete nahrazeni AI. Budete nahrazeni někým, kdo umí používat AI.” —Anonym

Ztráta práce v důsledku přijímání AI by mohla být vážná. Odhady se liší, ale čísla jsou pochmurná. Existují zjevné příklady: Bezpilotní taxíky v San Francisku eliminují… taxikáře a řidiče sdílených jízd. AI podporovaná diagnostika by mohla snížit potřebu zdravotnických techniků.

Optimista ve mně poukazuje na jeden příklad, zavedení tabulkového procesoru a jeho dopad na zaměstnanost. Jak vidíte v grafu níže, zaměstnanost v “účetnictví, daňové přípravě, vedení účetnictví a mzdových službách” se od roku 1990 téměř zdvojnásobila - sotva obžaloba tabulkových procesorů a dalších technologií, které tyto úkoly z velké části automatizovaly.

Studie Ethana Mollicka s Boston Consulting Group (BCG) byla experimentem, který měl lépe pochopit dopad AI na práci, zejména na složité a znalostně náročné úkoly. Studie zahrnovala 758 konzultantů BCG, kteří byli náhodně přiřazeni k použití nebo nepoužití OpenAI’s GPT-4 pro dva úkoly: kreativní inovace produktů a řešení obchodních problémů. Studie měřila výkon, chování a postoje účastníků, stejně jako kvalitu a charakteristiky výstupů AI.

Mezi zjištěními bylo, že “AI funguje jako vyrovnávač dovedností. Konzultanti, kteří dosáhli nejhorších výsledků při hodnocení na začátku experimentu, zaznamenali největší skok ve svém výkonu, 43%, když mohli použít AI. Nejlepší konzultanti také dostali posilovač, ale menší.” Celý článek je odhalující a stejně jako všechna Mollickova práce, provokativní, ale přístupná.

Vzdělávání bylo v centru pozornosti v pro a proti debatách o AI. Zavedení AI do učeben je z velké části vnímáno jako prokletí, nebo alespoň jako výzva. Jiní pedagogové, jako klíčový řečník PW Ethan Mollick, přijímají AI jako pozoruhodný nový nástroj pro pedagogy; Mollick trvá na tom, aby jeho studenti pracovali s ChatGPT.

Nejlepší kniha na toto téma je Teaching with AI: Praktický průvodce novou érou lidského učení od José Antonio Bowen a C. Edward Watson.

V této knize se nebudu zabývat vzdělávacím publikováním - je to rozsáhlé téma, které vyžaduje samostatnou zprávu. Dá se tvrdit, že publikování se stává druhotným zájmem ve vzdělávání: AI nástroje jsou software, ne obsah jako takový.

Perplexity jde o krok dál, přeformuluje informace, které shromažďuje z více zdrojů, takže opravdu nemusíte kliknout na odkaz. Poskytuje odkazy na své zdroje, ale klikání na ně je obvykle zbytečné – odpověď na svou otázku už máte.

Tato zdánlivě skromná změna má obrovské důsledky pro každou společnost a každý produkt, který se alespoň částečně spoléhá na to, že bude objeven prostřednictvím vyhledávačů. Pokud návštěvníci již nejsou posíláni na váš web, jak je můžete zapojit a převést na zákazníky? Jednoduchá odpověď, nemůžete.

Joanna Penn je na čele myšlení o dopadu nových technologií na psaní a publikování. Tento složitý témat podrobně rozebrala ve svém podcastu a blogu loňského prosince.

Je to stále ještě brzká fáze pro AI a transformaci vyhledávání.

Amazon nyní vyžaduje, aby autoři uvedli podrobnosti o použití AI při tvorbě svých knih. Není pochyb o tom, že to může být zneužito.

Zkuste hledat na Amazonu “knihy generované AI”. Je jich spousta. Některé výsledky jsou knihy o tom, jak používat AI k tvorbě knih. Ale jiné jsou, bez uzardění, generované AI. “Zábavné a roztomilé fotky koček-tyto typy fotek nelze vidět na světě-ČÁST-1” (sic) je připsána Rajasekar Kasi. Na stránce autora nejsou žádné podrobnosti o jeho (?) životopisu, ale šesti dalším titulům je připsáno stejné jméno. Kniha, vydaná 26. srpna 2023, nemá žádné recenze a žádné prodejní hodnocení. Negramatický název ebooku nesedí s negramatickým názvem na obálce tištěné knihy.

Ale jiní autoři jasně používají AI rozsáhle při tvorbě svých knih, aniž by to uváděli. Jak jsem již zmínil výše, detekce použití AI je téměř nemožná s dovednými ‘padělateli’. Omalovánky, deníky, cestovní knihy a kuchařky jsou generovány pomocí AI nástrojů za zlomek času a úsilí tradičního publikování.

Vyhledejte “korejská veganská kuchařka” a najdete na prvním místě titul od Joanne Lee Molinaro. Ale hned za ní se objevují další tituly, které jsou očividně plagiáty. “Korejská veganská kuchařka: Jednoduché a chutné tradiční a moderní recepty pro milovníky korejské kuchyně” má dvě recenze, včetně jedné, která poznamenává “Toto není veganská kuchařka. Všechny recepty obsahují maso a vejce.” Ale kniha je na #5,869,771 v prodejním hodnocení, oproti originálu, který je na #2,852 na seznamu.

Je obtížné určit rozsah škod způsobených tímto. Nic dobrého z toho nemůže vzejít, ale jak špatné to je?

Amazon má zavedené politiky, které mu umožňují odstranit jakoukoli knihu, která nesplňuje “poskytování pozitivního zákaznického zážitku.” Pravidla obsahu Kindle zakazují “popisný obsah určený k oklamání zákazníků nebo který neodpovídá přesně obsahu knihy.” Mohou také blokovat “obsah, který je obvykle zklamáním pro zákazníky.” Je to pouze obrovské množství, které poráží sledující Amazonu? Nebo je zde jiný důvod?

LLM jsou trénovány na tom, co již bylo publikováno online. To, co bylo publikováno online, je plné předsudků, a tak LLM odrážejí tyto předsudky. A samozřejmě nejen předsudky, ale i nenávist, odrážené v jejich učení, a nyní potenciální výstup ve slovech a obrazech generovaných AI. Porno je dalším přirozeným beneficientem pozoruhodné schopnosti AI s obrazy, a existují nedávné znepokojující příběhy o mladých ženách, které našly falešné nahé obrázky, jejich mužští spolužáci jako pravděpodobní podezřelí. The New York Times samostatně informovaly o nárůstu online obrázků sexuálního zneužívání dětí.

Autoři a vydavatelé si musí být vědomi těchto vestavěných omezení při použití AI nástrojů.