חששות וסיכונים סביב בינה מלאכותית

יש כל כך הרבה בעיות ודאגות סביב AI, שהם ממלאים כרכים בעצמם. הנה ענן מילים של הנושאים שאני עוקב אחריהם. אני בטוח שאני מפספס כמה.

יש המון מידע זמין על כל אחד מהנושאים האלה, ואני מעודד אתכם לקרוא לעומק ככל שתוכלו. ייתכן שתסיקו שהסיכונים עולים על היתרונות, ושאינכם רוצים להמשיך להשתמש ב-AI, בין אם באופן אישי או בתוך הארגון שלכם. החלטה זו מביאה עמה סיכונים משלה; הרגיל, להישאר מאחור. אבל זו בחירה אישית.

אם תחפשו בגוגל “ספרים לגבי הסיכונים של AI” תמצאו מבחר כרכים ראויים. פודקאסט אחרון שמצאתי במיוחד מצמרר היה השיחה של עזרא קליין עם דריו אמודיי, שותף מייסד ומנכ“ל של אנתרופיק (החברה שמפתחת את Claude.ai). תלמדו שהחברות האלה מודעות לסיכונים. אמודיי מתייחס למערכת סיווג סיכונים פנימית שנקראת A.S.L., עבור “רמות בטיחות של AI” (לא שפת הסימנים האמריקאית). אנחנו כרגע ב-ASL 2, “מערכות שמראות סימנים מוקדמים של יכולות מסוכנות — למשל היכולת לתת הוראות כיצד לבנות נשק ביולוגי.” הוא מתאר את ASL 4 כ“מאפשר שחקנים ברמת מדינה להגדיל מאוד את יכולותיהם … שם נדאג שצפון קוריאה או סין או רוסיה יוכלו להגדיל באופן ניכר את יכולותיהם ההתקפיות בתחומים צבאיים שונים עם AI בצורה שתיתן להם יתרון משמעותי ברמה הגיאופוליטית.“ דברים מצמררים.

בתוך ההקשר הקודר הזה, אדגיש את הנושאים הרלוונטיים ביותר לכותבים ומוציאים לאור.

הנושאים של זכויות היוצרים הם גם ספציפיים וגם רחבים. ידוע שכל המודלים הלשוניים הגדולים (LLMs) מאומנים על הרשת הפתוחה – כל מה שניתן לגרד מ-1.5 מיליארד האתרים ברשת היום, בין אם זה מאמרי עיתונות, פוסטים ברשתות חברתיות, בלוגים, ובמובן מסוים, תמלילי סרטוני יוטיוב.

זה ניתן להוכחה שלפחות אחד מהמודלים הלשוניים הגדולים הכיל את הטקסט המלא של אלפי ספרים שאינם נחלת הכלל.

האם היה חוקי לכלול את כל הטקסט הזה כדי לעזור לבנות חברות AI ששוות מיליארדי דולרים, בלי כל פיצוי למחברים? חברות ה-AI מצדיקות את זה על בסיס שימוש הוגן; בתי המשפט יחליטו בסופו של דבר. גם אם זה היה חוקי, האם זה היה אתי או מוסרי? האתיקה נראית פחות מורכבת מהשיקולים המשפטיים. אתם תחליטו.

החוקים הנוגעים לזכויות יוצרים לא ציפו כמובן לאתגרים הייחודיים שה-AI מביא לנושא, וחיפוש פתרונות משפטיים ייקח זמן, אולי שנים. (אם אתם רוצים להעמיק יותר למה החוקים אינם מותאמים לבעיה המסוימת הזו, קראו את המאמר המצוין של א. פדר קופר וג’יימס גרימלמן שנקרא “הקבצים במחשב: זכויות יוצרים, זיכרון ו-AI מחולל.”)

הנה רשימה של שלושה עשר התביעות החשובות ביותר, לא כולן עוסקות בספרים; גם בתמונות ובמוזיקה. והנה רשימה נוספת שמעדכנת את מצב כל התביעות.

עמדת משרד זכויות היוצרים האמריקאי בנוגע ליכולת זכויות יוצרים של תוכן שנוצר על ידי AI מציינת ש-AI לבדו לא יכול להחזיק בזכויות יוצרים כי הוא חסר מעמד משפטי של מחבר. זה הגיוני. אבל זה מניח ש-100% מהעבודה נוצרה על ידי AI. כפי שנדון במקומות אחרים, מעט מחברים יאפשרו ל-AI ליצור ספר שלם. סביר יותר שזה יהיה 5%, או 10% או… וכאן משרד זכויות היוצרים נופל (כמו שאני הייתי נופל).

בפסיקה עדכנית יותר, המשרד קבע כי רומן גרפי המורכב מטקסט שנכתב על ידי בני אדם בשילוב עם תמונות שנוצרו על ידי שירות ה-AI Midjourney מהווה יצירה מוגנת בזכויות יוצרים, אך שהתמונות האישיות עצמן אינן יכולות להיות מוגנות בזכויות יוצרים.“ וואו!

יש המשווים את הליטיגציה הנוכחית לתביעת הספרים של גוגל, שלקח לה 10 שנים להיפתר מבחינה משפטית. מי יודע כמה זמן יימשך תהליך הערעורים עבור תיקים אלו. בינתיים, מו“לים נבונים לפעול כאילו חברות ה-AI יפסידו, מה שלפחות תיאורטית חושף כל מי שמרשה, או אולי אפילו משתמש ב-Chat AI, לסוג של אחריות מותנית.

אבל זה לא הבעיה החמורה ביותר של המו“ל. זו התפיסה. עבור סופרים רבים, חלקם בולטים, חלקם לא מוכרים, הבאר הורעלה. ה-AI הוא רדיואקטיבי בתוך קהילת הכתיבה וההוצאה לאור. כל דבר שמריח אפילו מעט מ-AI מושך ביקורת אינטנסיבית.

ישנם דוגמאות רבות. באירוע עדכני Angry Robot, מו“ל בריטי “המוקדש לטוב ביותר במדע בדיוני למבוגרים מודרני, פנטזיה ו-WTF,” הודיע שהוא ישתמש בתוכנת AI בשם Storywise למיון מספר גדול של כתבי יד צפויים. זה לקח רק חמש שעות עד שהחברה נאלצה לבטל את התוכנית ולחזור ל“תיבת הדואר הישנה“.

הדילמה הבלתי נסבלת עבור מו“לים מסחריים בשימוש בכלי AI פנימיים: אם הסופרים שלך יגלו, יהיה לך קשה לעמוד בסערה שתתעורר. אני מאמין שלמו“לים אין ברירה אלא להיות אמיצים, לאמץ (לפחות חלק מכלי ה-AI), להסביר בבירור כיצד הכלים האלה מאומנים וכיצד הם משמשים, ולהמשיך הלאה.

בבריטניה, The Society of Authors נוקט גישה קשה: “בקש מהמו“ל שלך לאשר שהוא לא יעשה שימוש משמעותי ב-AI לכל מטרה בקשר עם עבודתך - כגון הגהה, עריכה (כולל קריאות אותנטיות ובדיקת עובדות), אינדקס, בדיקה משפטית, עיצוב ותכנון, או כל דבר אחר ללא הסכמתך. ייתכן שתרצה לאסור על קריינות ספרי אודיו, תרגום ועיצוב כריכה שנעשים על ידי AI.”

אגודת הסופרים נראית כמי שמקבלת את העובדה ש“מו“לים מתחילים לחקור שימוש בבינה מלאכותית ככלי בעבודתם השוטפת, כולל שימושים עריכתיים ושיווקיים.“ אני לא חושב שרבים מחברי האגודה מבינים כך.

רוב המו“לים, ורבים מהסופרים, מחפשים דרכים לרשום רישוי תוכן לחברות AI. לכולם יש רעיונות שונים לגבי תנאי הרישוי, וכמה שווה התוכן שלהם, אך לפחות השיחות כבר מתנהלות.

ישנם מספר סטארטאפים שמחפשים לעבוד עם מו“לים (ובמקרים מסוימים, גם עם סופרים פרטיים). Calliope Networks ו-Created by Humans שניהם מעניינים בהקשר זה.

באמצע יולי, מרכז רישוי זכויות יוצרים, שהיה זמן רב השחקן הראשי בתעשייה ברישוי זכויות יוצרים קולקטיביות, הכריז על זמינות “זכויות שימוש חוזר בבינה מלאכותית (AI) בתוך רישיונות זכויות יוצרים שנתיים (ACL), פתרון רישוי תוכן רחב היקף המציע זכויות ממיליוני יצירות לעסקים המנויים.”

Publishers Weekly סיקרו את ההכרזה, תוך ציטוט טרייסי ארמסטרונג, נשיא ומנכ“ל CCC, שאמרה “אפשר להיות בעד AI ובעד זכויות יוצרים, ולשלב AI עם כבוד ליוצרים.”

בעוד שזה לא כולל הכל, זה כנראה פריצת דרך בהתקדמות המו“לות להתקרב לרמה מסוימת של שיתוף פעולה עם מפתחי מודלים גדולים של שפה.

בינה מלאכותית, בצורות שונות, כבר שולבה ברוב כלי התוכנה והשירותים שאנחנו משתמשים בהם כל יום. אנשים מסתמכים על בדיקת איות ודקדוק שמונעת על ידי AI בתוכנות כמו Microsoft Word או Gmail. Microsoft Word ו-PowerPoint משתמשות ב-AI כדי לספק הצעות כתיבה, להציע המלצות עיצוב ופריסה, ועוד. עוזרים וירטואליים כמו Siri ו-Alexa משתמשים בעיבוד שפה טבעית כדי להבין פקודות קוליות ולהגיב לשאלות. שירותי דואר אלקטרוני מנצלים AI כדי לסנן הודעות, לזהות דואר זבל, ולשלוח התראות. AI מפעיל צ’אטבוטים לשירות לקוחות ויוצר המלצות מוצרים על בסיס היסטוריית הקניות שלך.

ורוב זה מבוסס על מודלים לשוניים גדולים, כמו שזה עם ChatGPT.

כשסופר או עורך אומרים, “אני לא רוצה להשתמש בבינה מלאכותית על כתב היד שלי,” זה, באופן כללי, כמעט בלתי אפשרי, אלא אם כן הם והעורכים שלהם עובדים עם מכונות כתיבה ועפרונות.

הם יכולים לנסות לומר, “אני לא רוצה בינה מלאכותית יוצרת” בשימוש בספר שלהם. אבל זה קשה להבחין ולהפריד. תוכנות בדיקת דקדוק לא נבנו במקור על בינה מלאכותית יוצרת. Grammarly הוסיפה את זה כמרכיב למוצר שלה, וכך יעשו כל שאר בודקי האיות והדקדוק. בינה מלאכותית יוצרת היא גם ליבה של תוכנות השיווק המוצעות.

היבט נוסף של סופרים ושימוש בבינה מלאכותית יש לו דמיון לבעיה של זכויות יוצרים שנדונה לעיל. בקיצוניות, אנחנו רואים תוכן שנוצר כולו על ידי בינה מלאכותית מפורסם באמזון. רובו (הכול?) הוא באיכות נוראית, אבל זה לא מונע את פרסומו. (ראו גם את סעיף אמזון.) מדאיג יותר עבור המוציאים לאור הוא הגשות שנוצרו על ידי בינה מלאכותית. כן, הבינה המלאכותית מעלה את הכמות, אבל למוציאים לאור הגדולים כבר יש מסנן לכמות. המסננים נקראים סוכנים. הם אלו שיצטרכו להבין איך להתמודד עם בעיית הכמות, וככל הנראה הם יצטרכו למצוא פתרון שלא משתמש בבינה מלאכותית.

זו בעיה קיומית במידת מה—האם אני רוצה לפרסם ספר שנכתב על ידי ‘מכונה’? עבור רוב המוציאים לאור התשובה היא “לא” חד משמעי. קל ופשוט. טוב, מה לגבי ספר שבו 50% מהתוכן נוצר על ידי מודל לשוני גדול, בפיקוח של סופר מיומן? הממ, ננסה גם על זה “לא”. אוקיי: אז מה לגבי 25%, או 10%, או 5%? איפה מושכים את הקו?

ועכשיו, כשנכנסתם לעסק של ציור קווים, איך אתם פותרים את הדילמה שכלי האיות והדקדוק כעת מסתמכים, לפחות חלקית, על AI גנרטיבי? מה לגבי כלי תמלול מונעי AI, כמו Otter.ai, או תכונת התמלול המובנית ב-Microsoft Word?

אני לא יכול למצוא אף מוציא לאור מסחרי שהצהיר שהוא לא יפרסם עבודה עם כמות ספציפית מראש של טקסט שנוצר על ידי בינה מלאכותית. הנה מה שגילדת הסופרים אומרת על הנושא:

“אם כמות משמעותית של טקסט, דמויות או עלילה שנוצרו על ידי AI משולבים בכתב היד שלך, עליך לגלות זאת למוציא לאור שלך וגם כדאי לגלות זאת לקורא. אנחנו לא חושבים שזה הכרחי שהכותבים יגלו את השימוש ב-AI כאשר הוא משמש רק ככלי לסיעור מוחות, יצירת רעיונות או לעריכה.”

כמובן ש’משמעותי’ לא מוגדר (אוקספורד מגדיר זאת כ“גדול מספיק כדי להיות מורגש או נחשב חשוב“), אבל הפוסט ממשיך ומסביר שהכללת טקסט שנוצר על ידי AI ביותר מרמה של “de minimis” תפר את רוב חוזי ההוצאה לאור. De minimis, במונחים משפטיים, לא מוגדר במדויק, אבל באופן כללי, משמעותו דומה למושג המשמעותי.

אירחתי וובינר על זיהוי AI, בחסות BISG, במאי 2024. ההקלטה זמינה באינטרנט ב-YouTube. ג’יין פרידמן הציעה כתבה מקיפה על הוובינר בניוזלטר שלה Hot Sheet.

לרבים מהכותבים, הרעילות של AI אומרת לשמור אותו רחוק מהמילים שלהם. למוציאים לאור יש נטל מיוחד - הם לא יוצרים את הטקסט, אבל, לאחר הפרסום, הם נושאים באחריות משמעותית לטקסט. ראינו הרבה דינמיט מתפוצץ ליד ספרים נפיצים, בין אם סביב ההשלכות החברתיות של התוכן, או הגניבה הספרותית של מילים ורעיונות של כותבים אחרים. עכשיו עם AI אנו מתמודדים עם סט חדש לחלוטין של בעיות אתיות ומשפטיות, שאף אחת מהן לא נלמדה בבית ספר להוצאה לאור.

חלק מזה נראה דומה למה שאנשים מודאגים ממנו לגבי תלמידים, שהשימוש ב-AI הוא איכשהו רמאות, דומה להעתקה ממאמר בוויקיפדיה, או אולי פשוט לבקש מחבר לכתוב את החיבור שלך.

אחד מהדוברים שלנו בוובינר, מחנך, חוסה בואן, שיתף את גילויו לתלמידים. זה לא בדיוק מה שאתה משתמש עבור כותב, אבל זה מדגים סוג של “רמות סיכון” של שימוש ב-AI.

תבנית הסכם גילוי לתלמידים

• עשיתי את כל העבודה הזו בעצמי ללא עזרה מחברים, כלים, טכנולוגיה או AI.

• עשיתי את הטיוטה הראשונה, אבל אז ביקשתי מחברים/משפחה, תוכנות פרפרזה/דקדוק/פלגיאט של AI לקרוא ולהציע שינויים. עשיתי את השינויים הבאים לאחר העזרה הזו:

  • תיקון איות ודקדוק

  • שינוי המבנה או הסדר

  • כתיבה מחדש של משפטים/פסקאות שלמים

• נתקעתי בבעיות והשתמשתי באוצר מילים, מילון, התקשרתי לחבר, הלכתי למרכז העזרה, השתמשתי ב-Chegg או ספק פתרונות אחר.

• השתמשתי בבינה מלאכותית/חברים/מורה לעזור לי לייצר רעיונות.

• השתמשתי בעזרה/כלים/בינה מלאכותית כדי ליצור מתווה/טיוטה ראשונה, אותה ערכתי לאחר מכן. (תאר את אופי התרומתך.)

וכך מו“ל יכול לנסח משהו כזה עבור המחברים שלו. נניח שהמחבר מגלה את הרמה העליונה: השתמשתי בבינה מלאכותית באופן נרחב, ואז ערכתי את התוצאות. מה אז? האם אתה דוחה אוטומטית את כתב היד? אם כן, למה?

ובינתיים, אם שמתם לב, אתם לומדים שכתב היד הזה שקראתם ואהבתם, שהמחבר נשבע שלא נבדק אפילו על ידי Grammarly, יכול להיות שנוצר ב-90% על ידי בינה מלאכותית, על ידי מחבר מומחה בהסתרת השימוש בה.

אז אתה נאלץ לחשוב מחדש על השאלה. זה הופך להיות, “למה אני כל כך נחוש לגלות את הדבר הזה שלא ניתן לגילוי?”

חלק מהדאגה הנובעת מהשאלות סביב יכולת זכויות יוצרים של טקסט שנוצר על ידי בינה מלאכותית. משרד זכויות יוצרים לא יציע הגנה על זכויות יוצרים לטקסט שנוצר ב-100% על ידי בינה מלאכותית (או מוזיקה, או תמונות, וכו’). אבל מה לגבי טקסט שנוצר ב-50% על ידי בינה מלאכותית? ובכן, היינו מכסים רק את ה-50% שנוצר על ידי המחבר. ואיך היית יודע איזה חצי? נחזור אליך על זה.

האם לא יהיה נהדר אם פשוט היית יכול להכניס כל כתב יד לתוך תוכנה שתאמר לך אם השתמשו בבינה מלאכותית ביצירת הטקסט?

בהתעלם מהשאלה שהדרך היחידה לעשות זאת תהיה על ידי שימוש בכלי בינה מלאכותית, השאלה החשובה יותר היא, האם התוכנה תהיה (מספיק) מדויקת? האם אוכל לסמוך עליה שתאמר לי אם השתמשו בבינה מלאכותית ביצירת כתב היד? והאם אוכל להסתמך עליה שלא תייצר “תוצאות חיוביות שגויות” - להצביע על כך שהשתמשו בבינה מלאכותית, כאשר בפועל לא השתמשו בה?

כיום יש הרבה תוכנות בשוק שעוסקות באתגרים הללו. רבות מהמחקרים האקדמיים שמעריכים את התוכנות הללו מצביעים על חוסר האמינות שלהן. טקסט שנוצר על ידי בינה מלאכותית חומק דרכם. יותר גרוע, טקסט שלא נוצר על ידי בינה מלאכותית מסומן בטעות כנגוע.

אבל מוציאי ספרים ירצו שיהיו במקומם סוג כלשהו של אמצעי הגנה. נראה כי, לכל היותר, כלים אלה יכולים להתריע על חששות אפשריים, אך תמיד צריך לבדוק שוב. אז אולי זה יתריע בפניך על טקסטים שצריך לבדוק אותם בזהירות רבה יותר מאחרים? האם זו יעילות?

יעילות אמיתית תימצא במעבר מעבר לחששות לגבי מקורו של טקסט, במקום לשמור על הקריטריונים הקיימים שלנו לגבי איכותו.

“לא תוחלף על ידי בינה מלאכותית. תוחלף על ידי מישהו שיודע להשתמש בבינה מלאכותית.” —אנונימי

אובדן משרות כתוצאה מאימוץ בינה מלאכותית יכול להיות חמור. ההערכות משתנות, אך המספרים קודרים. יש דוגמאות ברורות: המוניות האוטונומיות של סן פרנסיסקו מבטלות… נהגי מוניות ונהגי שיתוף נסיעות. אבחון נתמך בבינה מלאכותית יכול להפחית את הצורך בטכנאי רפואי.

האופטימיסט שבי מצביע, כדוגמה אחת, על הכנסת הגיליון האלקטרוני והשפעתו על התעסוקה. כפי שניתן לראות בתרשים למטה, התעסוקה ב“ראיית חשבון, הכנת מס, הנהלת חשבונות ושירותי שכר“ כמעט הכפילה את עצמה מאז 1990 - דבר שמראה שהגיליונות האלקטרוניים וטכנולוגיות אחרות שמכונות אוטומטיות לא פגעו בתחומים אלה.

המחקר של איתן מוליק עם קבוצת הייעוץ של בוסטון (BCG) היה ניסוי שנועד להבין טוב יותר את השפעת הבינה המלאכותית על העבודה, במיוחד על משימות מורכבות ועתירות ידע. המחקר כלל 758 יועצי BCG, שהוקצו באופן אקראי להשתמש או לא להשתמש ב-GPT-4 של OpenAI לשני משימות: חדשנות מוצר יצירתית ופתרון בעיות עסקיות. המחקר מדד את הביצועים, ההתנהגות והעמדות של המשתתפים, כמו גם את האיכות והמאפיינים של פלט הבינה המלאכותית.

בין הממצאים היה ש“בינה מלאכותית פועלת כמיישרת רמות מיומנות. היועצים שקיבלו את הציונים הגרועים ביותר כאשר הערכנו אותם בתחילת הניסוי חוו את העלייה הגדולה ביותר בביצועיהם, 43%, כאשר הם קיבלו להשתמש בבינה מלאכותית. היועצים הטובים ביותר עדיין קיבלו דחיפה, אך קטנה יותר.“ המאמר המלא חושפני, וכמו כל עבודתו של מוליק, פרובוקטיבי אך נגיש.

חינוך היה במרכז הדיונים בעד ונגד לגבי בינה מלאכותית. הכניסה של בינה מלאכותית לתוך הכיתות נחשבת בעיקר כקללה, או לפחות כאתגר. מחנכים אחרים, כמו הנואם הראשי של PW איתן מוליק, מאמצים את הבינה המלאכותית ככלי חדש ויוצא דופן למחנכים; מוליק מתעקש שתלמידיו יעבדו עם ChatGPT.

הספר הטוב ביותר בנושא הוא Teaching with AI: A Practical Guide to a New Era of Human Learning מאת חוסה אנטוניו בואן ו־C. Edward Watson.

אני לא הולך להיכנס להוצאה לאור חינוכית בספר הזה–זהו נושא רחב מאוד, הדורש דוח נפרד. ניתן לטעון שההוצאה לאור הופכת להיות בעלת חשיבות משנית בתוך החינוך: כלים בינה מלאכותית הם תוכנה, לא תוכן, בעצם.

Perplexity הולך צעד נוסף קדימה, ומנסח מחדש את המידע שהוא אוסף ממקורות שונים כך שלא תצטרכו באמת ללחוץ על קישור. הוא מספק קישורים למקורותיו, אבל לחיצה עליהם היא בדרך כלל מיותרת–כבר קיבלתם את התשובה לשאלתכם.

השינוי הצנוע לכאורה הזה יש לו השלכות עצומות על כל חברה וכל מוצר שתלויים, לפחות בחלקם, בכך שיתגלו דרך מנועי חיפוש. אם מחפשים כבר לא נשלחים לאתר שלכם, איך תוכלו למשוך אותם ולהמירם ללקוחות? התשובה הפשוטה היא, אינכם יכולים.

ג’ואנה פן נמצאת בחזית המחשבה על ההשפעה של טכנולוגיות חדשות על כתיבה והוצאה לאור. היא התמודדה עם הנושא המורכב הזה בפודקאסט ובבלוג שלה בדצמבר האחרון.

זה עדיין ימים מוקדמים לבינה מלאכותית ולשינוי של החיפוש.

אמזון דורשת כעת מסופרים לחשוף פרטים על השימוש שלהם ב-AI ביצירת ספריהם. אין ספק שניתן לנצל זאת.

נסו לחפש באמזון “ספרים שנוצרו על ידי AI.” יש המון. חלק מהתוצאות הן ספרי הדרכה על השימוש ב-AI ליצירת ספרים. אבל אחרים הם, ללא בושה, יצירות שנוצרו על ידי AI. “Funny and Cute cat images-You are can’t see this types of photos in the world-PART-1” (stet) נזקף לזכות רג’סקאר קאסי. אין פרטים על הביוגרפיה שלו (?) בעמוד הסופר, אבל שישה כותרים נוספים נזקפים לשם הזה. הספר, שפורסם ב-26 באוגוסט 2023, אין לו ביקורות ואין לו דרגת מכירות. הכותרת הלא דקדוקית של הספר האלקטרוני לא תואמת את הכותרת הלא דקדוקית על הכריכה של הספר המודפס.

אבל סופרים אחרים משתמשים בבירור ב-AI ביצירת ספריהם, ואינם חושפים זאת. כפי שציינתי לעיל, גילוי השימוש ב-AI הוא כמעט בלתי אפשרי עם ‘זייפנים’ מיומנים. ספרי צביעה, יומנים, ספרי מסע וספרי בישול נוצרים בעזרת כלי AI בזמן ובמאמץ מועט בהשוואה לפרסום המסורתי.

חפשו “ספר בישול טבעוני קוריאני” ותמצאו את הכותרת הראשית, מאת ג’ואן לי מולינרו, במקום הראשון. אבל מאחוריה יש כותרים נוספים שהם בבירור חיקויים. “The Korean Vegan Cookbook: Simple and Delicious Traditional and Modern Recipes for Korean Cuisine Lovers” יש לו שתי ביקורות, כולל אחת שמציינת “זה אינו ספר בישול טבעוני. כל המתכונים מכילים בשר וביצים.” אבל הספר נמצא במקום #5,869,771 בדרגת המכירות, לעומת המקור שנמצא במקום #2,852 ברשימה.

קשה לקבוע את היקף הנזק שנגרם. שום דבר טוב לא יכול לצאת מזה, אבל עד כמה זה רע?

לאמזון יש מדיניות שמאפשרת לה להסיר כל ספר שלא מצליח “לספק חוויית לקוח חיובית.” הנחיות התוכן של Kindle אוסרות על “תוכן תיאורי שמטרתו להטעות לקוחות או שאינו מייצג במדויק את תוכן הספר.” הם גם יכולים לחסום “תוכן שבדרך כלל מאכזב לקוחות.” האם זה הכמות העצומה שמכניעה את המשגיחים של אמזון? או שיש סיבה אחרת?

LLMs מאומנים על מה שכבר פורסם באינטרנט. מה שפורסם באינטרנט מלא בהטיה ולכן LLMs משקפים את ההטיה הזו. וכמובן לא רק הטיה, אלא גם שנאה, המשתקפת בלימודיהם, ועכשיו פוטנציאלית בתוצרת של מילים ותמונות שנוצרות על ידי AI. פורנוגרפיה היא נהנית טבעית מכישרונו המרשים של ה-AI עם תמונות, ויש סיפורים מדאיגים לאחרונה על נשים צעירות שמגלות תמונות עירום מזויפות, כאשר חברי הכיתה הגברים שלהן הם החשודים הסבירים. הניו יורק טיימס דיווח בנפרד על עלייה בתמונות מקוונות של התעללות מינית בילדים.

מחברים ומוציאים לאור צריכים להיות מודעים למגבלות המובנות הללו כאשר הם משתמשים בכלי AI.