المخاوف والمخاطر المحيطة بالذكاء الاصطناعي

هناك العديد من القضايا والمخاوف المحيطة بالذكاء الاصطناعي، وهي تملأ مجلدات بحد ذاتها. إليك سحابة كلمات للمواضيع التي أتابعها. أنا متأكد أنني أفتقد بضعاً منها.

هناك الكثير من المعلومات المتاحة حول كل واحدة من هذه المواضيع، وأشجعك على القراءة بعمق قدر الإمكان. من الممكن أن تستنتج أن المخاطر تفوق الفوائد، وأنك لا تريد متابعة استخدام الذكاء الاصطناعي، سواء بشكل شخصي أو داخل منظمتك. هذا القرار يجلب معه مخاطره الخاصة؛ الاعتيادية، أن تظل متخلفاً. لكن الأمر يعود إلى اختيار شخصي.

إذا قمت بالبحث في “كتب حول مخاطر الذكاء الاصطناعي” على جوجل، ستجد مجموعة من المجلدات القيمة. بودكاست حديث وجدته مرعباً بشكل خاص كان محادثة إزرا كلاين مع داريو أمودي، المؤسس الشريك والرئيس التنفيذي لشركة Anthropic (الشركة التي تطور Claude.ai). تتعلم أن هذه الشركات على دراية بالمخاطر. يشير أمودي إلى نظام تصنيف المخاطر الداخلي المسمى A.S.L.، لـ “مستويات أمان الذكاء الاصطناعي” (وليس لغة الإشارة الأمريكية). نحن حالياً عند ASL 2، “أنظمة تظهر علامات مبكرة لقدرات خطيرة - على سبيل المثال القدرة على إعطاء تعليمات حول كيفية بناء أسلحة بيولوجية.” يصف ASL 4 بأنه “تمكين الجهات الفاعلة على مستوى الدولة من زيادة قدراتها بشكل كبير… حيث نقلق من أن كوريا الشمالية أو الصين أو روسيا يمكنها تعزيز قدراتها الهجومية في مختلف المجالات العسكرية بالذكاء الاصطناعي بطريقة تمنحها ميزة كبيرة على المستوى الجيوسياسي.” أمور مرعبة.

ضمن هذا السياق الكئيب، سأقوم بتسليط الضوء على القضايا الأكثر أهمية للكتاب والناشرين.

قضايا حقوق النشر هي قضايا معينة وعامة في نفس الوقت. من المعروف أن جميع نماذج اللغة الكبيرة يتم تدريبها على الويب المفتوح - كل ما يمكن جمعه من 1.5 مليار موقع على الويب اليوم، سواء كانت مقالات الصحف، المنشورات على وسائل التواصل الاجتماعي، المدونات الإلكترونية، وبشكل واضح، نصوص مقاطع الفيديو على يوتيوب.

يمكن إثبات أن إحدى نماذج اللغة الكبيرة قد استوعبت النص الفعلي لآلاف الكتب التي ليست في الملك العام.

هل كان من القانوني استيعاب كل هذا النص للمساعدة في بناء شركات الذكاء الاصطناعي التي تبلغ قيمتها مليارات الدولارات، دون أي تعويض للمؤلفين؟ الشركات التي تعمل في مجال الذكاء الاصطناعي تقدم حجتها حول الاستخدام العادل؛ ستقرر المحاكم في النهاية. حتى لو كان ذلك قانونيًا، هل كان أخلاقيًا أو أخلاقيًا؟ تبدو الأخلاقيات أقل تعقيدًا من الاعتبارات القانونية. القرار لك.

من الواضح أن القوانين المحيطة بحقوق النشر لم تكن تتوقع التحديات الفريدة التي يجلبها الذكاء الاصطناعي إلى القضية، والبحث عن حلول قانونية سيستغرق وقتًا، ربما سنوات. (إذا كنت ترغب في التعمق أكثر في سبب عدم توافق القوانين مع المشكلة المحددة، اقرأ الورقة الممتازة التي كتبها A. Feder Cooper و James Grimmelmann بعنوان “الملفات في الكمبيوتر: حقوق النشر، الحفظ، والذكاء الاصطناعي التوليدي.”)

إليك قائمة بـ ثلاثة عشر من أبرز القضايا، ليس جميعها تتعلق بالكتب؛ بل تتعلق أيضًا بالصور والموسيقى. و إليك قائمة أخرى تُحدث حالة جميع الدعاوى القضائية.

موقف مكتب حقوق النشر الأمريكي بشأن قدرة الذكاء الاصطناعي على حقوق النشر ينص على أن الذكاء الاصطناعي وحده لا يمكنه أن يحمل حقوق النشر لأنه يفتقر إلى الوضع القانوني للمؤلف. هذا منطقي. ولكن هذا يفترض أن 100% من العمل تم إنتاجه بواسطة الذكاء الاصطناعي. كما نوقش في مكان آخر، قليل من المؤلفين سيسمحون للذكاء الاصطناعي بإنتاج كتاب كامل. من المرجح أن يكون 5%، أو 10% أو… وهنا يتعثر مكتب حقوق النشر (وكذلك أنا).

في حكم أكثر حداثة، خلص المكتب إلى أن رواية مصورة تتألف من نص مؤلف من قبل البشر مع صور تم إنشاؤها بواسطة خدمة الذكاء الاصطناعي Midjourney تشكل عملاً يمكن أن يحمل حقوق النشر، ولكن الصور الفردية نفسها لا يمكن حمايتها بحقوق النشر.“ يا للهول!

يقارن البعض النزاعات القانونية الحالية بـ دعوى كتب Google، التي استغرقت 10 سنوات لحلها قانونيًا. من يدري كم ستستغرق عملية الاستئناف لهذه القضايا. في هذه الأثناء، من الحكمة أن يتصرف الناشرون كما لو أن شركات الذكاء الاصطناعي ستخسر، مما يعرض، على الأقل نظريًا، أي شخص يترخص، أو ربما حتى يستخدم Chat AI، إلى نوع من المسؤولية الطارئة.

لكن هذه ليست القضية الأكثر خطورة للناشر. إنها التصور. بالنسبة للعديد من المؤلفين، بعضهم بارزين، وبعضهم غير معروفين، السم قد تسمم. الذكاء الاصطناعي مشع داخل مجتمع الكتابة والنشر. أي شيء حتى يشتم رائحة الذكاء الاصطناعي يجذب انتقادات شديدة.

هناك أمثلة عديدة. في حادثة حديثة، أعلنت Angry Robot، وهي ناشر بريطاني “مكرس لأفضل الخيال العلمي الحديث للبالغين والفانتازيا وWTF”، أنها ستستخدم برنامج ذكاء اصطناعي يُدعى Storywise لفرز مجموعة كبيرة متوقعة من تقديمات المخطوطات. استغرق الأمر خمس ساعات فقط حتى تتراجع الشركة عن الخطة و تعود إلى “البريد الوارد القديم.“

المعضلة التي لا تُحتمل لناشري التجارة في استخدام أدوات الذكاء الاصطناعي داخلياً: إذا اكتشف مؤلفوك ذلك، ستواجه صعوبة في تجاوز العاصفة الناتجة. أعتقد أن الناشرين ليس لديهم خيار سوى أن يكونوا شجعاناً، وأن يتبنوا (على الأقل بعض) الأدوات، وأن يشرحوا بوضوح كيفية تدريب هذه الأدوات وكيفية استخدامها، وأن يستمروا في التقدم.

في المملكة المتحدة، يتخذ مجتمع المؤلفين نهجاً صارماً: “اطلب من الناشر أن يؤكد أنه لن يستخدم الذكاء الاصطناعي بشكل كبير لأي غرض يتعلق بعملك - مثل التدقيق اللغوي والتحرير (بما في ذلك قراءة الأصالة والتحقق من الحقائق)، والفهرسة، والفحص القانوني، والتصميم والتنسيق، أو أي شيء آخر بدون موافقتك. قد ترغب في منع السرد الصوتي للكتب، والترجمة، وتصميم الغلاف الذي يتم بواسطة الذكاء الاصطناعي.”

يبدو أن نقابة المؤلفين تقبل بأن “الناشرين بدأوا في استكشاف استخدام الذكاء الاصطناعي كأداة في سير عملياتهم العادية، بما في ذلك الاستخدامات التحريرية والتسويقية.” لا أعتقد أن العديد من أعضاء النقابة يتفهمون ذلك بنفس القدر.

معظم الناشرين، والعديد من المؤلفين، يبحثون عن طرق لترخيص المحتوى لشركات الذكاء الاصطناعي. كل شخص لديه فكرة مختلفة عن شروط الترخيص التي يجب أن تكون، وكم يستحق المحتوى الخاص بهم، ولكن على الأقل بدأت المناقشات.

هناك العديد من الشركات الناشئة التي تسعى للعمل مع الناشرين (وفي بعض الحالات، المؤلفين الفرديين). Calliope Networks وCreated by Humans كلاهما مثير للاهتمام في هذا الصدد.

في منتصف يوليو، أعلنت Copyright Clearance Center، التي كانت لفترة طويلة اللاعب الرئيسي في الترخيص الجماعي لحقوق النشر في الصناعة، عن توفر “حقوق إعادة استخدام الذكاء الاصطناعي (AI) ضمن تراخيص حقوق النشر السنوية الخاصة بها (ACL)، وهي حل لترخيص المحتوى على مستوى المؤسسة يوفر حقوقاً من ملايين الأعمال للشركات التي تشترك.”

Publishers Weekly غطت الإعلان، ونقلت عن تريسي أرمسترونغ، رئيسة ومديرة CCC التنفيذية، قولها “من الممكن أن تكون مؤيداً للذكاء الاصطناعي ومؤيداً لحقوق النشر، وأن تقرن الذكاء الاصطناعي باحترام المبدعين.”

بينما لا يشمل كل شيء، من المرجح أن يكون هذا خطوة هامة نحو تقريب النشر من درجة من التعاون مع مطوري نماذج اللغة الكبيرة.

الذكاء الاصطناعي، بأشكاله المختلفة، قد تم دمجه بالفعل في معظم أدوات وخدمات البرمجيات التي نستخدمها كل يوم. يعتمد الناس على التدقيق الإملائي والنحوي المدعوم بالذكاء الاصطناعي في برامج مثل Microsoft Word أو Gmail. تطبق Microsoft Word و PowerPoint الذكاء الاصطناعي لتقديم اقتراحات للكتابة، وتقديم توصيات للتصميم والتنسيق، والمزيد. تستخدم المساعدات الافتراضية مثل Siri و Alexa معالجة اللغة الطبيعية لفهم الأوامر الصوتية والرد على الأسئلة. تستفيد خدمات البريد الإلكتروني من الذكاء الاصطناعي لتصفية الرسائل، واكتشاف البريد المزعج، وإرسال التنبيهات. يدفع الذكاء الاصطناعي روبوتات الدردشة لخدمة العملاء ويولد توصيات للمنتجات بناءً على تاريخ الشراء الخاص بك.

وكثير من هذا يعتمد على نماذج اللغة الكبيرة، كما هو الحال مع ChatGPT.

بالنسبة لمؤلف أو محرر ليقول، “لا أريد استخدام الذكاء الاصطناعي على مخطوطتي”، هذا، بشكل عام، شبه مستحيل، إلا إذا كانوا هم ومحرروهم يعملون على الآلات الكاتبة والأقلام.

يمكنهم المحاولة بالقول، “لا أريد الذكاء الاصطناعي التوليدي” ليستخدم على كتابهم. ولكن هذا أمر صعب للتفكيك. لم تُبنى برامج التدقيق النحوي في الأصل على الذكاء الاصطناعي التوليدي. لقد أضافت Grammarly ذلك كمكون إلى منتجها، كما ستفعل جميع برامج التدقيق الإملائي والنحوي الأخرى. الذكاء الاصطناعي التوليدي هو أيضاً جوهر برامج التسويق المعروضة.

جانب آخر من المؤلفين واستخدام الذكاء الاصطناعي له تشابهات مع قضية حقوق النشر التي نوقشت أعلاه. في الحالة القصوى، نرى محتوى مولداً بالكامل بواسطة الذكاء الاصطناعي يتم نشره على Amazon. معظمها (كلها؟) ذات جودة سيئة، ولكن هذا لا يمنعها من النشر. (انظر أيضاً قسم Amazon.) الأكثر قلقاً للناشرين هو التقديمات المولدة بواسطة الذكاء الاصطناعي. نعم، يزيد الذكاء الاصطناعي الكمية، ولكن الناشرين الكبار لديهم بالفعل مرشح للكمية. المرشحات هي الوكلاء. هم الذين سيتعين عليهم اكتشاف كيفية التعامل مع مشكلة الكمية، ويبدو أنهم سيتعين عليهم العثور على حل لا يستخدم الذكاء الاصطناعي.

إنها مشكلة وجودية إلى حد ما - هل أريد نشر كتاب كتبه “آلة”؟ بالنسبة لمعظم الناشرين، يكون الجواب الواضح هو “لا”. سهل للغاية. حسنًا، ماذا عن كتاب تم إنشاء 50٪ من محتواه بواسطة نموذج لغوي كبير (LLM) تحت إشراف مؤلف قادر؟ همم، دعنا نجرب “لا” على ذلك أيضًا. حسنًا: ماذا عن 25٪، أو 10٪، أو 5٪؟ أين ترسم الخط الفاصل؟

والآن بعد أن دخلت في مجال رسم الخطوط، كيف تحل معضلة أن أدوات التهجئة والنحو تعتمد الآن، على الأقل جزئيًا، على الذكاء الاصطناعي التوليدي؟ ماذا عن أدوات النسخ المدفوعة بالذكاء الاصطناعي، مثل Otter.ai أو ميزة النسخ المدمجة في Microsoft Word؟

لا أستطيع أن أجد أي ناشر تجاري أعلن أنه لن ينشر عملًا يحتوي على كمية محددة مسبقًا من النص الذي تم إنشاؤه بواسطة الذكاء الاصطناعي. إليك رأي نقابة المؤلفين في هذا الموضوع:

“إذا تم تضمين كمية ملحوظة من النص أو الشخصيات أو الحبكة التي تم إنشاؤها بواسطة الذكاء الاصطناعي في مخطوطتك، فيجب عليك الكشف عنها لناشرك ويجب أيضًا الكشف عنها للقارئ. لا نعتقد أنه من الضروري للمؤلفين الكشف عن استخدام الذكاء الاصطناعي التوليدي عندما يتم استخدامه فقط كأداة للعصف الذهني أو توليد الأفكار أو لتحرير النصوص.”

من الواضح أن “ملحوظة” ليست معرفة (تعرفها أكسفورد بأنها “كبيرة بما يكفي لتلاحظ أو تعتبر مهمة”)، لكن المنشور يستمر في شرح أن تضمين أكثر من “de minimis نص تم إنشاؤه بواسطة الذكاء الاصطناعي” سينتهك معظم عقود النشر. De minimis، في المصطلحات القانونية، ليست محددة بدقة، لكنها تعني، بشكل عام، نفس معنى ملحوظة.

استضفت ندوة عبر الويب حول اكتشاف الذكاء الاصطناعي، برعاية BISG، في مايو 2024. يمكن مشاهدة الإعادة عبر الإنترنت على YouTube. قدمت جين فريدمان تقريرًا شاملاً عن الندوة في نشرتها الإخبارية Hot Sheet.

بالنسبة للعديد من المؤلفين، فإن سمية الذكاء الاصطناعي تعني إبعاده عن كلماتهم. يتحمل الناشرون عبئًا خاصًا - فهم لا ينشئون النص، لكنهم، بمجرد نشره، يتحملون التزامًا كبيرًا تجاه النص. لقد رأينا الكثير من الديناميت ينفجر بالقرب من الكتب المثيرة، سواء كان ذلك حول التداعيات الاجتماعية للمحتوى، أو السرقة الأدبية لأفكار وكلمات الكتاب الآخرين. الآن مع الذكاء الاصطناعي نواجه مجموعة جديدة تمامًا من القضايا الأخلاقية والقانونية، لم يتم تحديد أي منها في مدرسة النشر.

جزء من هذا يبدو مشابهًا لما يقلق الناس بشأن الطلاب، أن استخدام الذكاء الاصطناعي هو نوع من الغش، مشابه للاقتباس من مقالة ويكيبيديا، أو ربما مجرد طلب من صديق كتابة مقالتك.

شارك أحد المتحدثين في ندوتنا، وهو معلم، خوسيه بوين، إفصاحه للطلاب. إنه ليس بالضبط ما تستخدمه للمؤلف، لكنه يوضح نوعًا من “مستويات المخاطر” لاستخدام الذكاء الاصطناعي.

اتفاقية الإفصاح النموذجية للطلاب

• لقد قمت بكل هذا العمل بنفسي دون مساعدة من الأصدقاء أو الأدوات أو التكنولوجيا أو الذكاء الاصطناعي.

• لقد قمت بالمسودة الأولى، ثم طلبت من الأصدقاء/العائلة أو برنامج الذكاء الاصطناعي للتدقيق النحوي/الاقتباس/السرقة الأدبية قراءتها وتقديم اقتراحات. أجريت التغييرات التالية بعد هذه المساعدة:

  • إصلاح الأخطاء الإملائية والنحوية

  • تغيير الهيكل أو الترتيب

  • إعادة كتابة جمل/فقرات كاملة

• علقت في مشاكل واستخدمت قاموس المرادفات، القاموس، اتصلت بصديق، ذهبت إلى مركز المساعدة، استخدمت Chegg أو مزود حلول آخر.

• استخدمت الذكاء الاصطناعي/الأصدقاء/المعلم لمساعدتي في توليد الأفكار.

• استخدمت المساعدة/الأدوات/الذكاء الاصطناعي لعمل مخطط/مسودة أولى، والتي قمت بتحريرها بعد ذلك. (صف طبيعة مساهمتك.)

وهكذا يمكن للناشر أن يصوغ شيئًا كهذا لمؤلفيه. لنقل أن المؤلف يكشف عن المستوى الأعلى: لقد استخدمت الذكاء الاصطناعي بشكل مكثف، ثم قمت بتحرير النتائج. ماذا بعد ذلك؟ هل ترفض المخطوطة تلقائيًا؟ إذا كان الأمر كذلك، لماذا؟

وفي الوقت نفسه، إذا كنت منتبهًا، تتعلم أن المخطوطة التي قرأتها وأحببتها، والتي أقسم المؤلف بأنها لم تتم حتى مراجعتها بواسطة Grammarly، قد تكون في الواقع قد تم إنشاؤها بنسبة 90٪ بواسطة الذكاء الاصطناعي، بواسطة مؤلف خبير في إخفاء استخدامه.

ثم تُجبر على إعادة التفكير في السؤال. يصبح، “لماذا أنا مصمم بشدة على اكتشاف هذا الشيء الذي لا يمكن اكتشافه؟”

جزء من ذلك هو القلق المبالغ فيه حول حقوق النشر للنصوص المُنشأة بواسطة الذكاء الاصطناعي. مكتب حقوق النشر لن يوفر حماية حقوق النشر للنصوص التي تم إنشاؤها بالكامل بواسطة الذكاء الاصطناعي (أو الموسيقى، أو الصور، إلخ). لكن ماذا عن النصوص التي تم إنشاؤها بنسبة 50% بواسطة الذكاء الاصطناعي؟ حسنًا، سنغطي فقط الـ 50% التي تم إنشاؤها بواسطة المؤلف. وكيف ستعرف أي نصف؟ سنعود إليك بشأن ذلك.

ألن يكون رائعًا إذا كان بإمكانك إدخال كل مخطوطة في بعض البرمجيات التي ستخبرك إذا تم استخدام الذكاء الاصطناعي في إنشاء النص؟

بغض النظر عن القضية التي تتطلب استخدام أدوات الذكاء الاصطناعي نفسها، السؤال الأهم هو، هل ستكون البرمجيات دقيقة (بما فيه الكفاية)؟ هل يمكنني الاعتماد عليها لتخبرني إذا تم استخدام الذكاء الاصطناعي في إنشاء المخطوطة؟ وهل يمكنني الاعتماد عليها لعدم إنتاج “إيجابيات كاذبة” - للإشارة إلى أن الذكاء الاصطناعي قد اُستخدم، عندما في الواقع لم يكن كذلك؟

هناك الآن الكثير من البرمجيات في السوق التي تتعامل مع هذه التحديات. العديد من الدراسات الأكاديمية التي تقيم هذه البرمجيات تشير إلى عدم موثوقيتها. النصوص المُنشأة بواسطة الذكاء الاصطناعي تمر دون اكتشاف. والأسوأ من ذلك، النصوص التي لم يتم إنشاؤها بواسطة الذكاء الاصطناعي تُصنف خطأً بأنها ملوثة.

لكن ناشري الكتب سيرغبون في وجود بعض الضمانات. يبدو أن هذه الأدوات قد تنبهك إلى المشاكل المحتملة، ولكنك ستحتاج دائمًا إلى التحقق المزدوج. فربما قد تنبهك إلى النصوص التي تحتاج إلى فحص أكثر دقة من غيرها؟ هل هذا كفاءة؟

الكفاءة الحقيقية ستُوجد في تجاوز القلق بشأن أصل النص، بدلاً من ذلك الحفاظ على معاييرنا الحالية فيما يتعلق بجودته.

“لن يتم استبدالك بواسطة الذكاء الاصطناعي. سيتم استبدالك بشخص يعرف كيفية استخدام الذكاء الاصطناعي.” —مجهول

يمكن أن يكون فقدان الوظائف جراء تبني الذكاء الاصطناعي شديدًا. التقديرات تختلف، لكن الأرقام مروعة. هناك أمثلة واضحة: سيارات الأجرة بدون سائق في سان فرانسيسكو تقضي على… سائقي سيارات الأجرة وخدمات النقل. التشخيصات المدعومة بالذكاء الاصطناعي قد تقلل من الحاجة إلى الفنيين الطبيين.

المتفائل فيّ يشير إلى، كمثال واحد، تقديم جداول البيانات وتأثيرها على التوظيف. كما ترى في الرسم البياني أدناه، فإن التوظيف في “المحاسبة، إعداد الضرائب، مسك الدفاتر، وخدمات الرواتب” قد تضاعف تقريبًا منذ عام 1990 - بالكاد يُعتبر اتهامًا لجداول البيانات والتقنيات الأخرى التي أتمتت هذه المهام إلى حد كبير.

دراسة إيثان موليك مع مجموعة بوسطن الاستشارية (BCG) كانت تجربة تهدف إلى فهم أفضل لتأثير الذكاء الاصطناعي على العمل، خاصة في المهام المعقدة والمكثفة للمعرفة. شملت الدراسة 758 مستشارًا من BCG تم تعيينهم عشوائيًا لاستخدام أو عدم استخدام GPT-4 من OpenAI لمهمتين: ابتكار المنتجات الإبداعية وحل المشاكل التجارية. قاست الدراسة أداء وسلوك ومواقف المشاركين، بالإضافة إلى جودة وخصائص مخرجات الذكاء الاصطناعي.

من بين النتائج كان أن “الذكاء الاصطناعي يعمل كمعادل للمهارات. المستشارون الذين حصلوا على أسوأ تقييم عندما قمنا بتقييمهم في بداية التجربة شهدوا أكبر قفزة في أدائهم، 43%، عندما أتيح لهم استخدام الذكاء الاصطناعي. المستشارون الأفضل أداءً حصلوا أيضًا على تعزيز، لكن أقل.” المقالة الكاملة كاشفة، وكما هو الحال مع كل أعمال موليك، مثيرة للاهتمام ولكنها متاحة.

كان التعليم في قلب النقاشات المؤيدة والمعارضة للذكاء الاصطناعي. يُنظر إلى إدخال الذكاء الاصطناعي في الفصول الدراسية بشكل كبير على أنه لعنة، أو على الأقل تحدٍ. يرى معلمون آخرون، مثل المتحدث الرئيسي لمجلة PW إيثان موليك، الذكاء الاصطناعي كأداة جديدة رائعة للمعلمين؛ يصر موليك على أن يعمل طلابه مع ChatGPT.

أفضل كتاب عن الموضوع هو التدريس بالذكاء الاصطناعي: دليل عملي لعصر جديد من التعلم البشري بقلم خوسيه أنطونيو باوين وC. Edward Watson.

لن أتوغل في النشر التعليمي في هذا الكتاب - إنه موضوع واسع، يتطلب تقريرًا منفصلًا. من المحتمل أن يصبح النشر ذا أهمية ثانوية داخل التعليم: أدوات الذكاء الاصطناعي هي برمجيات، وليست محتوى، بحد ذاتها.

تعقيد يذهب خطوة أبعد، ويعيد صياغة المعلومات التي يجمعها من مصادر متعددة حتى أنك حقًا لن تحتاج إلى النقر على رابط. إنه يوفر روابط لمصادره، ولكن النقر عليها غالبًا ما يكون غير ضروري - لقد حصلت بالفعل على إجابة لسؤالك.

هذا التحول البسيط على ما يبدو له تداعيات ضخمة على كل شركة وكل منتج يعتمد، جزئيًا على الأقل، على أن يتم اكتشافه من خلال محركات البحث. إذا لم يعد البحثون يتم إرسالهم إلى موقعك، كيف يمكنك إشراكهم وتحويلهم إلى عملاء؟ الإجابة البسيطة، لا يمكنك.

جوآنا بن في طليعة التفكير في تأثير التكنولوجيا الجديدة على الكتابة والنشر. تناولت هذا الموضوع المعقد في برنامجها الصوتي ومدونتها في ديسمبر الماضي.

لا تزال الأيام الأولى للذكاء الاصطناعي وتحول البحث.

الآن يتطلب أمازون من المؤلفين الإفصاح عن تفاصيل استخدامهم للذكاء الاصطناعي في إنشاء كتبهم. لا شك أن هذا يمكن أن يتم إساءة استخدامه.

حاول البحث على أمازون عن “كتب مُولَّدة بالذكاء الاصطناعي”. هناك الكثير. بعض النتائج هي كتب تعليمية حول استخدام الذكاء الاصطناعي لإنشاء الكتب. لكن البعض الآخر مُولَّد بوضوح بالذكاء الاصطناعي. “صور القطط المضحكة واللطيفة - لا يمكنك رؤية هذا النوع من الصور في العالم - الجزء الأول” يُنسب إلى راجاسيكار كاسي. لا توجد تفاصيل عن سيرته الذاتية على صفحة المؤلف، ولكن هناك ستة عناوين أخرى منسوبة لنفس الاسم. الكتاب، الذي نُشر في 26 أغسطس 2023، لا يحتوي على مراجعات ولا ترتيب مبيعات. عنوان الكتاب الإلكتروني غير النحوي لا يتطابق مع العنوان غير النحوي على غلاف الكتاب المطبوع.

ولكن يوجد مؤلفون آخرون يستخدمون الذكاء الاصطناعي بشكل مكثف في إنشاء كتبهم، ولا يكشفون عن ذلك. كما ذكرت أعلاه، اكتشاف استخدام الذكاء الاصطناعي يكاد يكون مستحيلاً مع المُزيفين المهرة. يتم إنشاء كتب التلوين، والمجلات، وكتب السفر، وكتب الطبخ باستخدام أدوات الذكاء الاصطناعي في جزء من الوقت والجهد المطلوب في النشر التقليدي.

ابحث عن “كتاب الطبخ النباتي الكوري” وستجد العنوان الأول، لجوان لي مولينارو، في المرتبة الأولى. ولكن تليها عناوين أخرى واضحة أنها نسخ. “كتاب الطبخ النباتي الكوري: وصفات تقليدية وحديثة بسيطة ولذيذة لعشاق المطبخ الكوري” يحتوي على مراجعتين، إحداهما تشير إلى “هذا ليس كتاب طبخ نباتي. جميع الوصفات تحتوي على مكونات من اللحوم والبيض.” لكن الكتاب في المرتبة #5,869,771 في ترتيب المبيعات، مقابل الأصل الذي يحتل المرتبة #2,852 في القائمة.

من الصعب تحديد مدى الضرر الناجم. لا يمكن أن يأتي شيء جيد من هذا، ولكن إلى أي مدى هو سيء؟

لدى أمازون سياسات تسمح لها بإزالة أي كتاب يفشل في “توفير تجربة إيجابية للعملاء”. توجهات محتوى كيندل تحظر “المحتوى الوصفي الذي يهدف إلى تضليل العملاء أو الذي لا يمثل بدقة محتوى الكتاب.” يمكنهم أيضًا حظر “المحتوى الذي عادة ما يكون مخيبًا للآمال بالنسبة للعملاء.” هل هو الحجم الهائل الذي يهزم مراقبي أمازون؟ أم أن هناك سبب آخر؟

تدربت نماذج اللغة الكبيرة على ما تم نشره بالفعل على الإنترنت. ما تم نشره على الإنترنت مليء بالتحيز وبالتالي تعكس نماذج اللغة الكبيرة هذا التحيز. وبالطبع ليس فقط التحيز، ولكن الكراهية، المنعكسة في تعلمها، والآن مخرجات محتملة في الكلمات والصور المولدة بالذكاء الاصطناعي. الإباحية هي مستفيد طبيعي آخر من قدرة الذكاء الاصطناعي الرائعة على الصور، وهناك قصص مقلقة حديثة عن فتيات شابات يجدن صورًا عارية مفبركة، وزملاؤهن الذكور هم المشتبه بهم المحتملون. نيويورك تايمز ذكرت بشكل منفصل عن زيادة في الصور عبر الإنترنت لإساءة معاملة الأطفال جنسيًا.

يحتاج المؤلفون والناشرون إلى أن يكونوا على دراية بهذه القيود المدمجة عند استخدام أدوات الذكاء الاصطناعي.