بوتات الدردشة: ضجيج يصطدم بالواقع

يبدو الذكاء الاصطناعي وكأنه يجتاح كل مكان. تستخدم الشركات بوتات دردشة مُدعّمة بالذكاء الاصطناعي على صفحات الويب أو نُظم الهاتف الخاصة بها لتردّ على تساؤلات العملاء، وتستخدمها مكاتب التحرير والمجلات لتكتب مقالات، وشركات الإنتاج السينمائي لتنتج الأفلام، وشركات التكنولوجيا للبرمجة، والطلاب ليكتبوا أوراقاً بحثية. تبدو بوتات الدردشة هذه أشبه بالسحر. ومع حدوث كل شيء «سحابياً» حسبما يُفترَض، يغدو من السهل الاعتقاد أنّ النُظم المدعمة بالذكاء الاصطناعي صديقة للبيئة. لكن لسوء الحظ، الأمور ليست كما تبدو.

تقوم بوتات الدردشة على الاستغلال، وتستخدم كميات هائلة من الطاقة، وليست موثوقة إطلاقاً. وبينما يسهل علينا تصوّر أنّها تزداد تطوراً وتسهّل علينا الحياة في نواحٍ عديدة، تضخّ الشركات مليارات الدولارات لاستحداثها بغرض تحقيق أرباح من دون أن تولي اهتماماً كبيراً إلى النتائج المترتبة عليها، أمفيدة اجتماعياً أم لا. باختصار، نحن بحاجة إلى أن نتعامل مع اهتمام الشركات بالذكاء الاصطناعي بجدّية وأن نضع استراتيجيات يُمكن أن تساعدنا في السيطرة على كيفية تطوّر الذكاء الاصطناعي واستخداماته.

تقوم بوتات الدردشة على الاستغلال، وتستخدم كميات هائلة من الطاقة، وليست موثوقة إطلاقاً. وبينما يسهل علينا تصوّر أنّها تزداد تطوراً وتسهّل علينا الحياة في نواحٍ عديدة، تضخّ الشركات مليارات الدولارات لاستحداثها بغرض تحقيق أرباح من دون أن تولي اهتماماً كبيراً إلى النتائج المترتبة عليها

السباق مستمر

بدأت ثورة بوتات الدردشة في العام 2022 مع تقديم شركة «أوبن إيه آي» (Open AI) تطبيق «شات جي بي تي (Chat GPT). استطاع «شات جي بي تي» إجراء محادثات شبيهة بالمحادثات الإنسانية والإجابة عن أسئلة المستخدمين وتوليد النصوص، فضلاً عن كتابة المقالات والتعليمات البرمجية. وأفضل ما في الأمر أنّ استخدامه كان مجّانياً.

سرعان ما شرعت شركات أخرى، استجابة للاهتمام العام بـ«شات جي بي تي»، في تقديم بوتات الدردشة المدعّمة بالذكاء الاصطناعي الخاصة بها. وأكبر هذه البوتات وأوسعها استخداماً اليوم هما «جيميني» (Gemini) من غوغل (المعروف سابقاً بـ«بارد» Bard) و«كوبايلوت» (Copilot) من «مايكروسوفت» (Microsoft). توجد أمثلة أخرى، بينها بعض بوتات الدردشة المصمّمة لتلبية احتياجات عملية محدّدة. على سبيل المثال، يعمل «غيتهاب كوبايلوت» (GitHub CoPilot) على مساعدة مطوريّ البرامج في إنشاء التعليمات البرمجية، وصُمم «كلود» (Claude) من شركة «أنثروفيك» (Anthrophic) ليكتشف المعلومات ويلخّص المستندات.

يستمر السباق لإنشاء الجيل التالي من نُظم الذكاء الاصطناعي التي يمكنها أن تستوعب مزيداً من المعلومات وتعالجها بسرعة أكبر وتقدّم استجابات بها مزيد من التفصيل والطابع الشخصي. وبحسب الخبراء الاقتصاديين في «غولدمان ساكس» (Goldman Sachs)، فإنّ الاستثمار المرتبط بالذكاء الاصطناعي في الولايات المتّحدة «ربما يصل إلى ذروته ليبلغ ما بين 2.5% إلى 4% من الناتج المحلي الإجمالي» على مدار العقد المقبل.

تحتاج بوتات الدردشة إلى قاعدة بيانات كبيرة ومتنوّعة من الكلمات والنصوص والصور والملفات الصوتية والسلوكيات على الإنترنت، فضلاً عن خوارزميات متطوّرة لتمكّنها من تنظيم المواد عند الحاجة بما يتماشى مع أنماط الاستخدام الشائعة. فتحدّد بوتات الدردشة، عند طرح سؤال أو طلب حصول على معلومات، مواداً في قاعدة بياناتها مرتبطة بنمط الكلمات المتضمّنة في السؤال أو الطلب ثم تجمع، مسترشدةً بالخوارزميات مرّة أخرى، مجموعة من الكلمات أو الصور من قاعدة بياناتها لتجيب عن الاستفسار بأفضل شكل، وذلك بحسب حدود البيانات المعطاة. وبطبيعة الحال تتطلّب عملية تحديد الأنماط وبناء الاستجابات كميات هائلة من الطاقة.

بغض النظر عن مدى ذكاء بوت الدردشة وقدرته على الحوار، من المهم أن نتذكر كما توضّح ميغان كراوس «أنّ النموذج لا يعرف ما يقول، لكنه يعرف ما الرموز (الكلمات) التي يُحتمل أن تتوالى إثر بعضها بناءً على البيانات التي جرى تدريبه عليها. فالجيل الحالي من بوتات الدردشة، كـ«شات جي بي تي» ومنافسه «بارد» وغيرهما، لا تتخذ القرارات بناءً على الذكاء؛ إنما هي ببغاوات الإنترنت، تكرّر الكلمات التي يُحتمل أن تجدها متتاليةً في سياق الكلام الطبيعي. فالرياضيات الأساسية التي تعتمد عليها تتعلّق بالاحتمالية».

تنتج بوتات الدردشة المختلفة نتائج مختلفة بسبب برمجتها وتدريبها على مجموعات بيانات مختلفة. على سبيل المثال، يستطيع «جيميني»، بالإضافة إلى استخراج أي بيانات عامة متاحة على الويب، استخدام بيانات من تطبيقات «غوغل»، بينما يستخدم «كوبايلوت» البيانات المتولدة من محرّك «بينغ» (Bing) الخاص به.

حصلت بوتات الدردشة على تحديثات عدة منذ إطلاقها. فكل جيل منها يمتلك حزمة برامجية أعقد تسمح له بعمل روابط أدق، بالإضافة إلى توسيع قاعدة بياناته من خلال دمج البيانات المستقاة من الأسئلة أو الطلبات المطروحة. وبهذه الطريقة تتعلّم بوتات الدردشة وتتحسّن بفعل الاستخدام مع الوقت.

يُبرز هذا المنظور حقيقة مفادها أننا وإنْ كنا نتحدث عن الأشياء التي تحدث سحابياً، فإنّ قدرة بوتات الدردشة على أن تستجيب للمطالبات أو الأسئلة تعتمد على عمليات تحدث على الأرض. وعلى حد تعبير الكاتبة كارين هاو المتخصصة بشؤون التكنولوجيا: «يتمتع الذكاء الاصطناعي بسلسلة توريد على غرار أي تكنولوجيا أخرى؛ توجد مدخلات تدخل في إنشاء هذه التكنولوجيا، والبيانات من هذه المدخلات، ومنها أيضاً القوة الحاسوبية أو رقائق الكمبيوتر. ويرتبط كلاهما بتكاليف بشرية كبيرة».

وجدت دراستها أنّه «حين طُلب 1,000 مرة من «شات جي بي تي» ترتيب 8 سير ذاتية لأشخاص بكفاءة متساوية لشغل دور محلّل مالي في إحدى شركات «فورتشن 500» (Fortune 500)، كانت احتمالية أن يختار «شات جي بي تي» سيرة ذاتية تتضمّن اسماً يبدو لأميركيّ أسود هي الأدنى»

سلسلة التوريد: العمل البشري

تحتاج نُظم الذكاء الاصطناعي إلى بيانات، وتأتي البيانات من أشخاص بشكل أو آخر. لذلك، تبحث شركات التكنولوجيا عن بيانات جديدة ومتنوّعة على نحوٍ مستمر لتحسين أداء نُظم الذكاء الاصطناعي الخاصة بها. فمن خلال مدوّناتنا الإلكترونية ومنشوراتنا على الإنترنت وكتبنا ومقالاتنا المنشورة وعمليات البحث والصور والأغاني والفيديوهات المستخرجة مجّاناً من الإنترنت، نساعد الشركات على تأمين مدخلات لها في سعيها إلى أرباح أكبر. وكما تشير لورين ليفر: «يُمكن لعناكب الويب (Web Crawlers) وجامعي بيانات الويب (Web Scrapers) الوصول بسهولة إلى البيانات الموجودة في أي صفحة لا تحتاج إلى تسجيل دخول... يتضمّن هذا أي شيء موجود على موقع «فليكر» (Flickr) الشهير لمشاركة الصور والأسواق الإلكترونية وقواعد بيانات تسجيل الناخبين وصفحات الويب الحكومية وموقعي و«يكيبيديا» (Wikipedia) و«ريديت» (Reddit) ومستودعات الأبحاث والمواقع الإخبارية والمؤسّسات الأكاديمية. بالإضافة إلى ذلك، توجد مجموعات محتوى مقرصن وأرشيفات ويب تحتوي في الغالب على بيانات حُذفت من موقعها الأصلي على الويب. وأي قواعد بيانات تتعرّض إلى عملية جمع بيانات لا تختفي.

الحال أنّ نسبة كبيرة من المواد التي تعرضت إلى عمليات جمع كانت محمية بحقوق الملكية الفكرية وأُخذت من دون إذن. فيسعى عدد من الناشرين والكتّاب والفنانين الآن، رداً على ذلك، إلى وقف هذه السرقة. فقامت صحيفة «نيويورك تايمز» (New York Times) في آب/أغسطس 2023، مثلاً، بتحديث «شروط الخدمة» لتمنع أيّ استخدام لنصوصها وصورها ومقاطعها الصوتية والفيديوية في عملية تطوير «أي برنامج، بما في ذلك، على سبيل المثال لا الحصر، تدريب نظام تعلّم آلي أو ذكاء اصطناعي». لكن في حين تتمتع بعض الشركات الكبرى بالنفوذ أو السلطة القانونية لتحظر استخدام موادها أو تفرض التفاوض بشأن التعويض المالي لاستخدامها، لا يسري ذلك على معظم الشركات والأفراد. نتيجةً لذلك، يظل هؤلاء عرضة لخطر أن تُنتزع «ملكيتهم الفكرية» منهم مجّاناً وتُحوّل إلى مواد تدريبية للذكاء الاصطناعي بما يخدم النشاط الربحي للشركات.

ومن دون أن نقلّل من الخسائر الشخصية المرتبطة بجمع بيانات الذكاء الاصطناعي، فإنّ لدينا  مشكلة أكبر بكثير مع هذا النهج في جمع البيانات. فعملية جمع البيانات من الإنترنت العام تعني أنّ بوتات الدردشة المدعّمة بالذكاء الاصطناعي يجري تدريبها باستخدام مواد تتضمّن وجهات نظر ومفاهيم مختلفة ومتباينة تماماً في العلوم والتاريخ والسياسة والسلوك البشري والحوادث الجارية، بينها منشورات أعضاء مجموعات كراهية. ويُمكن أن تؤثر البيانات الإشكالية بسهولة في مخرجات حتى أكثر بوتات الدردشة الآلية تطوراً.

على سبيل المثال، تستخدم الشركات بوتات الدردشة على نحوٍ متزايد لتساعدها في عمليات التوظيف. لكن، كما اكتشفت «بلومبرغ» (Bloomberg)، فإنّ «أداة الذكاء الاصطناعي التوليديّة الأشهر تُنتج على نحوٍ ممنهج تحيّزات تضرّ بمجموعات معينة بناءً على أسمائها». ووجدت دراستها أنّه «حين طُلب 1,000 مرة من «شات جي بي تي» ترتيب 8 سير ذاتية لأشخاص بكفاءة متساوية لشغل دور محلّل مالي في إحدى شركات «فورتشن 500» (Fortune 500)، كانت احتمالية أن يختار «شات جي بي تي» سيرة ذاتية تتضمّن اسماً يبدو لأميركيّ أسود هي الأدنى».

تعتمد بوتات الدردشة على جودة العمل البشري في منحى آخر أيضاً. فلا يُمكن لبوتات الدردشة أن تستفيد مباشرةً من كثير من البيانات التي جمعتها عناكب الويب وجامعو بيانات الويب. فكما يشرح جوش جيزا، «خلف حتى أكثر نُظم الذكاء الاصطناعي إثارةً للإعجاب، يوجد أشخاص؛ فعدد هائل من الأشخاص يصنفون البيانات لتدريب هذه النُظم ويوضحونها لها».

تستعين كبرى شركات الذكاء الاصطناعي عموماً بشركات أصغر لتجد العمّال اللازمين لعملية تصنيف البيانات وتدرّبهم. وغالباً ما يجد هؤلاء المتعاقدون من الباطن عمّالهم، العمّال الشارحين، في الجنوب العالمي، وفي أحيان كثيرة في نيبال وكينيا. نادراً ما يعرف الشارحون رئيسهم الأعلى، لأنّ عملية الشرح وكذلك العناصر التي تُشرح تُعدّ أسراراً تجارية، ويُطردون من عملهم إذا ما عُلِم أنّهم يناقشون ما يعملونه مع آخرين، ولو مع زملائهم في العمل.

يصف جيزا بعض الأعمال التي يجب على الشارحين القيام بها ليمكّنوا بوتات الدردشة من أن تستفيد من البيانات المجمّعة لها. فيصنّف الشارحون، مثلًا، العناصر في مقاطع الفيديو والصور. ولا بد من القيام بهذا للتأكد من أن نُظم الذكاء الاصطناعي ستكون قادرة على أن تربط تكوينات محدّدة من وحدات البكسل بعناصر أو مشاعر محدّدة. وتحتاج الشركات التي تبني نُظم ذكاء اصطناعي للمركبات ذاتية القيادة إلى شارحين ليحدّدوا جميع العناصر المهمّة في مقاطع الفيديو المُسجّلة للشوارع والطرق السريعة. هذا يعني «تحديد المركبات والمشاة وسائقي الدراجات، وأيّ شيء يحتاج السائق إلى أن يكون على دراية به؛ لقطة تلو الأخرى ومن كل زاوية تصوير ممكنة». وكما يقول جيزا، هذا «عمل صعب وينطوي على تكرارات كثيرة. فمقطع فيديو تبلغ مدته عدة ثوانٍ يحتاج إلى 8 ساعات لشرحه، ويُدفَع [للشارح] لقاء هذا حوالي 10 دولارات».

يُعدّ هذا النوع من العمل، على الرغم من انخفاض أجره، بالغ الأهمية. فإذا أُنجزت عملية الشرح بشكل سيئ أو كانت قاعدة البيانات محدودة، يُمكن أن يفشل النظام بسهولة. مثال على ذلك: في العام 2018، صدمت سيارة أوبر ذاتية القيادة امرأة وأودت بحياتها. فشل نظام الذكاء الاصطناعي لأنّه «على الرغم من برمجته ليتجنّب راكبي الدراجات والمشاة، فإنه لم يعرف كيف يتعامل مع شخص يمشي مُمسكاً بدراجته ويقطع الشارع».

كما يجري توظيف الشارحين ليصنفوا العناصر الموجودة في صور وسائل التواصل الاجتماعي. قد تنطوي هذه المهمة على تحديد جميع القمصان المرئية التي يرتديها الناس وتصنيفها. وربما يتطلّب ذلك تسجيل ما إذا كانت «قمصان بولو أو قمصان تُلبس في الهواء الطلق أو قمصان معلّقة على حمالة الملابس»، وما إلى ذلك.

تتضمّن وظائف أخرى تصنيف العواطف. على سبيل المثال، يُعيّن بعض الشارحين لينظروا إلى صور الوجوه، بما في ذلك صور السيلفي التي التقطها الشارحون، وتصنيف الحالة العاطفية المتصوّرة للذات. ويُعيّن آخرون ليصنّفوا مشاعر العملاء الذين يتّصلون هاتفياً لطلب بيتزا من سلسلة متاجر معيّنة. ويمتلك الشارحون وظيفة أخرى هي تصنيف المشاعر المتضمّنة في منشورات «ريديت». وأثبتت هذه المهمة أنها تمثّل تحدياً لمجموعة من العمّال الهنود، ويرجع ذلك إلى أنهم يفتقرون إلى الألفة مع ثقافة الإنترنت الأميركية. فقرّر المتعاقد الفرعيّ، بعد مراجعة عملهم، أن حوالي 30% من المنشورات صُنّفت بطريقة خاطئة.

ربما يتضمّن الجزء الأسرع نمواً من أعمال تدريب الذكاء الاصطناعي تفاعلاً بشرياً مباشراً مع بوت الدردشة. فيجري تعيين أشخاص ليناقشوا المواضيع مع البوت، ويُبرمج بوت الدردشة ليقدّم استجابتين مختلفتين لكل محادثة. ثم يجب على «المناقش» المعيّن اختيار الرد «الأفضل» من وجهة نظره. بعدها يُغذى النظام بهذه المعلومات لمساعدته على الظهور بمظهر «إنساني».

باختصار، تعتمد نُظم الذكاء الاصطناعي بشكل كبير على عمل البشر. فهي ليست نُظماً سحرية، تعمل من دون أن تتأثر بالتحيزات أو العواطف الإنسانية. ولا يجري نشاطها في سحابة خيالية. تتجلى هذه النقطة الأخيرة بوضوح أكبر حين نأخذ في الاعتبار البنية التحتية اللازمة لتشغيلها.

تعتمد نُظم الذكاء الاصطناعي بشكل كبير على عمل البشر. فهي ليست نُظماً سحرية، تعمل من دون أن تتأثر بالتحيزات أو العواطف الإنسانية. ولا يجري نشاطها في سحابة خيالية. تتجلى هذه النقطة الأخيرة بوضوح أكبر حين نأخذ في الاعتبار البنية التحتية اللازمة لتشغيلها

سلسلة التوريد: مراكز البيانات

تَعزَّزَ النمو في مجال الذكاء الاصطناعي من خلال بناء مراكز بيانات على نطاق واسع وطلب متزايد على الكهرباء لتشغيل أجهزة الكومبيوتر والخوادم التي تحتويها وكذلك مكيّفات الهواء التي يجب أن تعمل من دون انقطاع لمنع ارتفاع حرارتها أكثر من اللازم. والحال، «تتمتع السحابة الآن ببصمة كربونية تفوق البصمة الكربونية لقطاع الطيران. وقد يستهلك مركز بيانات واحد ما يعادل الكهرباء اللازمة لـ50 ألف منزل». 

وبحسب وكالة الطاقة الدولية، كانت مراكز البيانات العاملة في الولايات المتحدة، والبالغ عددها 2,700 مركزاً، مسؤولة عن أكثر من 4% من إجمالي استهلاك الطاقة في البلاد في العام 2022. ومن المرجح أن تصل حصتها إلى 6% بحلول العام 2026. هذه التقديرات تقريبية بالطبع، لأنّ كبرى شركات التكنولوجيا لا ترغب في أن تشارك معلومات ذات صلة بهذا الموضوع وكذلك لأن نُظم الذكاء الاصطناعي تُدرب باستمرار على بيانات جديدة وتُرقى بمهارات إضافية، ما يعني زيادة في استهلاك الطاقة لكل نشاط.

بل حتى في يومنا هذا، توجد مؤشرات على أن احتياجات مراكز البيانات من الطاقة تثقل كاهل شبكة الكهرباء الأميركية. وكما أشارت صحيفة «واشنطن بوست» (Washington Post): «تحتاج فيرجينيا الشمالية إلى ما يعادل بضعة محطات طاقة نووية كبيرة لخدمة جميع مراكز البيانات الجديدة قيد الإنشاء والمخطّط لها. وتواجه تكساس المعضلة ذاتها، حيث أصبح نقص الكهرباء أمراً روتينياً بالفعل في أيام الصيف الحارة».

يواجه إقليم شمال غرب المحيط الهادئ تحدياً مماثلاً. وكما تشير صحيفة «ذي أوريغونيان» (The Oregonian): «سوف تستهلك مراكز البيانات المنتشرة في أنحاء ولاية أوريغون من الكهرباء أكثر بكثير مما توقعته المرافق الإقليمية ومخطّطو الطاقة، وفقاً لـ3 تنبؤات جديدة صدرت في صيف العام 2023. يضع هذا الأمر مزيداً من الضغط على الشبكة الكهربائية في الشمال الغربي ويلقي بظلال من الشك على قدرة أوريغون على تحقيق أهدافها الطموحة في طاقة نظيفة، كانت قد وضعتها الولاية قبل عامين فحسب. وتتوقع إدارة الطاقة في بونفيل الآن أنّ الطلب على الكهرباء من مراكز البيانات سينمو بمقدار مرتين ونصف بحلول العام 2041، ليصل إلى ما يقارب 2715 ميغاوات في المتوسط. وهذا يكفي لتزويد ثلث المنازل في هاتين الولايتين بالطاقة في وقتنا الراهن».

يمثّل هذا الطلب المتزايد بسرعة الصاروخ، والمدفوع بالطلبات المتنامية بشكل سريع في مجال الذكاء الاصطناعي، تهديداً كبيراً لجهودنا في مكافحة ظاهرة الاحتباس الحراري. على سبيل المثال، دفعت مخاوف مرتبطة بالطاقة ولايات كانساس ونبراسكا وويسكونسن وكارولينا الجنوبية إلى تأجيل إغلاق محطات الفحم. ويخلص تقرير صادر في العام 2024 عن عدد من المجموعات المعنية بالمناخ إلى أنّ مضاعفة استخدام مراكز البيانات للطاقة، وهو ما تتوقع وكالة الطاقة الدولية حدوثه في خلال العامين المقبلين، سوف يؤدي إلى زيادة بنسبة 80% في انبعاثات الغازات الدفيئة. وهذا ثمن باهظ يجب دفعه مقابل خدمات ذكاء اصطناعي جديدة تُنشر بغض النظر عن قدرتها على أن تلبي احتياجات حقيقة، وليس مختلقة.

مضاعفة استخدام مراكز البيانات للطاقة، وهو ما تتوقع وكالة الطاقة الدولية حدوثه في خلال العامين المقبلين، سوف يؤدي إلى زيادة بنسبة 80% في انبعاثات الغازات الدفيئة. وهذا ثمن باهظ يجب دفعه مقابل خدمات ذكاء اصطناعي جديدة تُنشر بغض النظر عن قدرتها على أن تلبي احتياجات حقيقة

«مقنعة وليست أمينة»

من الواضح أنّ كبرى شركات التكنولوجيا تراهن أنّ الذكاء الاصطناعي سوف يولّد لها أرباحاً ضخمة. لذا، تبذل كل ما في وسعها، من دون أن تترك أيّ شيء للمصادفة، لدمجه في حياتنا قبل أن تُتاح لنا الفرصة لنفكّر فيما إذا كنا نريده أم لا. والحال، يجري الترويج لنُظم الذكاء الاصطناعي بوصفها وسيلة لتحسين الرعاية الصحية، وتقديم النُصح في مجال الصحة العقلية، وتقديم المشورة القانونية، وتثقيف الطلاب، وتحسين عملية صنع القرار الشخصي، وزيادة كفاءة العمل… والقائمة تطول.

تبدو حقيقة أن نُظم الذكاء الاصطناعي تتسم بالجودة نفسها للبيانات المُدخلة والبرمجيات المكتوبة لاستخدامها حقيقة منسية. بعبارة أخرى، يعتمد عمل هذه النُظم على البشر. وربما الأهم من ذلك أن لا أحد يعرف حقاً كيف تستخدم نُظم الذكاء الاصطناعي البيانات التي تُدرّب عليها. أي أن تتبع «سيرورة تفكيرها» أمر مستحيل. والمؤشّرات التحذيرية بأنّ هذه النُظم فيها نوع من المغالاة والمبالغة واضحة للعيان.

على سبيل المثال، اتصل عميل بشركة طيران كندا، في العام 2022، ليعرف كيف يحصل على سعر مخفض بسبب وفاة أحد أقربائه. فأخبره بوت الدردشة المدعّم بالذكاء الاصطناعي لخدمة العملاء التابع لشركة الطيران أنّ كل ما عليه فعل هو أن يملأ نموذجاً في غضون 90 يوماً من إصدار التذكرة ليسترد جزءاً من ثمن التذكرة. لكن حين قدّم النموذج بعد نهاية رحلته، أخبره موظّفو شركة الطيران بعدم وجود أي تخفيض لأنّه لم يملأ النموذج قبل الرحلة. وحين أبرز لشركة الطيران لقطات الشاشة التي التقطها لما قاله البوت له، ردّت شركة الطيران بأنّها ليست مسؤولة عمّا قاله.

رفع العميل دعوى قضائية ضد شركة طيران كندا وكسبها. وأشار القاضي إلى أنّ: «شركة طيران كندا تحاجج أنّها لا تتحمّل مسؤولية المعلومات المقدّمة من أحد وكلائها أو مستخدميها أو ممثليها؛ بما في ذلك بوت الدردشة. لم تفسر السبب. والحال، تشير شركة طيران كندا إلى أنّ بوت الدردشة كيان قانوني مستقل مسؤول عن أفعاله. وهذه مرافعة لافتة».

بغض النظر عمّا إذا كانت الشركات تسعى في الواقع إلى أن تعلن بوتات الدردشة كيانات قانونية مستقلة ليتسنى لها أن تنأى بنفسها عن أفعالها إذا رغبت في ذلك، لم توضح شركة الطيران سبب تقديم بوت الدردشة الخاص بها معلومات خاطئة.

ثم هناك بوت الدردشة الخاص بمدينة نيويورك، الروبوت الذي جرى تطويره بمساعدة «مايكروسوفت»، والذي روّجت له المدينة بوصفه «مكاناً يوفّر خدمات متعدّدة» للشركات من أجل مساعدتها على أن تبقى مطلعة على قواعد المدينة ولوائحها التنظيمية. وإليكم بعض الأمثلة على النصائح المشكوك فيها المقدّمة رداً على استفسارات: «أشار بوت الدردشة على نحوٍ خاطئ إلى أنّه من القانوني لصاحب العمل أن يطرد من تشتكي من تحرّش جنسي أو لا تكشف عن حملها أو ترفض قص ضفائره».

ورداً على سؤال فيما إذا كان يُمكن لمطعم أن يقدّم جبناً قضمته إحدى القوارض، أجاب: «نعم، لا يزال بإمكانكم أن تقدّموا للعملاء الجبن إذا قرضه جرذ»، قبل أن يضيف أنّه من المهم تقييم «مدى الضرر الذي أحدثه الجرذ» و«إبلاغ العملاء بالوضع».

ربما ليس من المفاجئ رد كل من «مايكروسوفت» وعمدة مدينة نيويورك بالقول إنّ مثل هذه المشكلات ستُحل تدريجياً. كما أضافا، أنّ المستخدمين، من خلال إشارتهم إلى مواطن الخلل، سوف يسرّعون عملية الضبط الدقيقة المطلوبة للنظام.

تتضاءل فداحة هذه المشكلات، على الرغم من خطورتها، مقارنةً بمشكلة «هلاوس» الذكاء الاصطناعي. تحدث «الهلوسة» حين يلفّق نظام ذكاء اصطناعي معلومات يُمكن أن تتضمّن أسماء وتواريخ وكتباً وقضايا قانونية وتفسيرات طبية، وحتى حوادث تاريخية. على سبيل المثال، كانت هناك عديد من القضايا القانونية حيث اختلقت بوتات الدردشة قضايا أشار المحامون إليها في ملفات المحكمة.

مثال على ذلك: قدّم المحامون الذي يمثلون مقدّم دعوى قضائية ضد شركة طيران كولومبية في حزيران/يونيو من العام 2023 ملخّصاً يتضمّن 6 قضايا داعمة «عثر عليها» بوت دردشة. لسوء الحظ، لم تكن هذه القضايا موجودة إطلاقاً؛ حتى أنّ بعض شركات الطيران التي ذُكرت لم يكن لها وجود. رفض القاضي القضية وفرض غرامة على المحامين لاستخدامهم استشهادات مزيفة. وقال القاضي إنّ المحامين تصرّفوا بسوء نية، لكنَّهم في دفاعهم قالوا: «ارتكبنا خطأً بحسن نية حين لم نعتقد أنه يُمكن لنموذج تكنولوجيّ أن يختلق قضايا برمتها».

يُمكن أن تعاني حتى أكثر بوتات الدردشة تطوراً من هلوسات. فحين سُئل عن احتمالات المراهنة على مباراة سوبر بول 2024 التي كان من المقرر أن تُقام في اليوم التالي، أعلن بوت الدردشة التابع لشركة «غوغل» أن الأوان قد فات على المراهنة لأن السوبر بول أُقيمت بالفعل، وتغلب فريق سان فرانسيسكو فورتي ناينرز على فريق كانساس سيتي تشيفز بنتيجة 34 إلى 28. حتى إنّها تضمنت بعض إحصائيات اللاعبين. لكن المباراة، حين أُقيمت، كسبها فريق كانساس سيتي. وفعل بوت الدردشة الذي أطلقته «مايكروسوفت» الشيء نفسه، مؤكداً أنّ المباراة انتهت على الرغم من أنّها لم تُلعب بعد. مع ذلك أعلن أن فريق كانساس سيتي قد كسب.

تصوّروا الآن ما التكاليف التي قد تترتب إذا قدّم بوت يعاني من الهلوسة مشورة طبية. يعمل الجيش الأميركي بسرعة على زيادة استخدامه لتكنولوجيا الذكاء الاصطناعيّ بالعديد من السُبل، بما في ذلك تحديد التهديدات وتوجيه الطائرات من دون طيّار وجمع المعلومات الاستخباراتية والتخطيط للحرب. لكم أن تتخيّلوا الكارثة المحتملة التي ربما تنجم عن تدريب غير كافٍ أو غير كامل للنظام على البيانات، أو الأسوأ من ذلك في حالة نظام يعاني من الهلوسة. النقطة الواضحة هي أنّ هذه النُظم بعيدة كل البعد عن أن تكون مضمونة، وذلك لعديد من الأسباب. تلخص وثيقة داخلية لشركة «مايكروسوفت» هذا الأمر على أفضل وجه، حين تشير إلى أنّ نُظم الذكاء الاصطناعي الجديدة «مبينة لتكون مقنعة، وليس أمينة».

تستخدم الشركات نُظم الذكاء الاصطناعي لتراقب تنظيم العمال وترصد أدائهم وتتخلّص من العمّال حين يُمكن ذلك. فليس من المفاجئ أن يشرع عمّال نقابيون في المقاومة ويقترحون فرض قيود على استخدام الشركات لنُظم الذكاء الاصطناعي

ما العمل؟

تركّز القلق العام حول الذكاء الاصطناعي إلى حد كبير، حتى الآن، على استخدام نُظم الذكاء الاصطناعي غير المصرّح به للبيانات الشخصية. يريد الأشخاص الحماية من جمع البيانات غير المصرّح به لموادهم. ولا يريدون أن تصير تفاعلاتهم مع نُظم الذكاء الاصطناعي نشاطاً لتوليد البيانات يُحتمل أن يعرضهم إلى احتيال أو تمييز أو مضايقة. فتدرس حكومات ولايات وحكومات محلية سبل تحقيق ذلك الآن. وأصدر الرئيس بايدن، في العام 2023، أمراً تنفيذياً فيدرالياً يسعى إلى أن يضمن اختبار نُظم الذكاء الاصطناعي «الأساسية» بشكل مناسب بحثاً عن عيوب قبل إصدارها للعامة. تُعدّ هذه خطوات أولى مفيدة.

يحدث الصراع الأكثر حدة حول استخدام الذكاء الاصطناعي في بيئات العمل. تستخدم الشركات نُظم الذكاء الاصطناعي لتراقب تنظيم العمال وترصد أدائهم وتتخلّص من العمّال حين يُمكن ذلك. فليس من المفاجئ أن يشرع عمّال نقابيون في المقاومة ويقترحون فرض قيود على استخدام الشركات لنُظم الذكاء الاصطناعي.

أضربت رابطة الكتّاب الأميركية، مثلاً، الرابطة التي تمثّل نحو 12 ألف كاتب سيناريو، عن العمل مع عدد من شركات الإنتاج الكبرى - بما فيها «يونفيرسال» (universal) و«باراماونت» (Paramount) و«والت ديزني» (Walt Disney) و«نتفلكس» (Netflix) و«أمازون» (Amazon) و«آبل» (Apple) - لمدة 5 أشهر في العام 2023 سعياً منها إلى زيادة الأجور وضمانات لحماية العمّال وفرض قيود على استخدام الذكاء الاصطناعيّ. وكما يصف براين ميرشانت، وهو صحافي في «لوس أنجلوس تايمز» (Los Angeles Times): «لم تكن المخاوف بشأن استخدام الذكاء الاصطناعي التوليدي كـ«شات جي بي تي» على رأس الأولويات حين جلس الكتّاب للمرة الأولى مع شركات الإنتاج ليشرعوا في التفاوض. فنص اقتراح رابطة الكتّاب الأميركية ببساطة على أن الشركات لن تستخدم الذكاء الاصطناعي لتولّد نصوصاً أصلية، ولم يتصاعد القلق إلا حين رفضت الأخيرة ذلك رفضاً قاطعاً».

أدرك الكتّاب وقتئذ أن الشركات كانت جادّة بشأن استخدامها للذكاء الاصطناعي إنْ لم يكن لإنتاج نصوص جاهزة - وهو ما يعلم كلا الطرفين أنّه مستحيل في هذه المرحلة -  فلكي يكون طريقة للضغط على الكتّاب، كتهديد ووسيلة لتبرير تقديم رسوم تنقيح مخفّضة على حد سواء. رسمت نقابة الكتّاب الأميركية وقتها خطاً أحمراً، حين بدأنا نرى لافتات في المظاهرات تدين الذكاء الاصطناعي تنتشر على وسائل التواصل الاجتماعي والعناوين الرئيسة التي روّجت للصراع تزيّن صحف مثل هذه الصحيفة.

الحال، قاد الوعي المتزايد بالحاجة إلى السيطرة على استخدام نُظم الذكاء الاصطناعي نقابة الكتّاب إلى عقد اجتماعات عدة عن الذكاء الاصطناعي في أثناء إضراب العاملين في الصناعات ذات الصلة، بما فيهم العاملين في متاجر الوسائط الرقمية. وانتهى الأمر بعديد من الحاضرين في الاعتصامات إلى دعم كتّاب السيناريو المضربين.

حقق الإضراب مكاسب كبيرة للكتّاب. ففيما يتعلّق بالذكاء الاصطناعي، يحظر العقد الجديد استخدام نُظم الذكاء الاصطناعي ذات النماذج اللغوية الكبيرة لكتابة النصوص أو تنقيحها أو للبحث عن مصادر. وسوف يُسمح للكتّاب، من جهة أخرى، أن يستفيدوا من نُظم الذكاء الاصطناعي إذا ما رغبوا في ذلك. كما يحظر العقد استخدام أي مواد خاصة بالكتّاب لتدريب نُظم الذكاء الاصطناعي. وكما علّق أحد المحلّلين، «فقد وُضِع حد للخوف من أن تُنجز المسودات الأولى من خلال «شات جي بي تي» ومن ثم تُسلم إلى كاتب لقاء رسوم تنقيح أدنى. وهذا الاتفاق لربما أول اتفاق ينتج عن التفاوض الجماعي ويرسي محدّدات للذكاء الاصطناعيّ فيما يتعلّق بالعمّال».

أضربت نقابة ممثلي الشاشة - الاتحاد الأميركي لفناني الراديو والتلفزيون (SAG-AFTRA) ضد كبار منتجي السينما والتلفزيون بعد شهرين من بدء إضراب نقابة الكتّاب الأميركية. ليس مستغرباً أن تكون سياسة الذكاء الاصطناعي واحدة من القضايا الرئيسة التي حفّزت قرار الإضراب. ولعل الأهم هو نجاح الممثلين في أن يفوزوا بعقد جديد سوف يجبر المنتجين على التفاوض بخصوص الاستخدامات المستقبلية للذكاء الاصطناعي.

تُعتبر هذه النضالات العمّالية بداية مهمة نحو استحداث حدود حماية من استخدام الذكاء الاصطناعي. ويُمكن أن تشكّل أساساً لبناء تحالف أوسع بين الجماعات العمّالية في وجه حملة الشركات لاستخدام تكنولوجيا الذكاء الاصطناعي 

تقضي هذه الاتفاقية، مثلاً، أنّ المنتج إذا كان يخطّط لاستخدام «مؤدٍ اصطناعي» (فرد طبيعي المظهر أُنشئ رقمياً ولا يُمكن إدراكه بوصفه مؤدياً طبيعياً يُمكن تحديده)، يجب عليه إخطار النقابة والتفاوض معها بشأن قرار عدم تعيين مؤد طبيعي، مع احتمالية دفع الرسوم للنقابة. وإذا أراد منتج أن يستخدم «مؤدٍ اصطناعي يُمكن إدراكه» (فرد طبيعي المظهر أُنشئ رقمياً ويمكن إدراكه بوصفه مؤدياً طبيعياً)، يجب عليه بداية أن يتفاوض مع المؤدّي ويحصل على موافقته.

يدخل عمّال آخرون، مثل الصحافيين، في مساومة عسيرة مع رؤسائهم بشأن استخدام تكنولوجيا الذكاء الاصطناعي، ليحموا وظائفهم ويدافعوا عن المعايير المهنية على حد سواء. تُعتبر هذه النضالات العمّالية بداية مهمة نحو استحداث حدود حماية من استخدام الذكاء الاصطناعي. ويُمكن أن تشكّل أساساً لبناء تحالف أوسع بين الجماعات العمّالية في وجه حملة الشركات لاستخدام تكنولوجيا الذكاء الاصطناعي بهدف أن تقلل الروابط والفاعلية البشرية في نظامنا الطبي ومؤسساتنا التعليمية وقطاع النقل والتقارير الإخبارية والاتصالات مع الوكالات العامة ومقدمي السلع والخدمات، والقائمة تطول. وسوف تتحسن فرص نجاحنا بشكل كبير إذا ما تسنى لنا أن نساعد العاملين على أن يدركوا حقيقة هذه الضجّة الإعلامية ليقيّموا على نحو دقيق كامل نطاق التكاليف والفوائد المرتبطة بتكنولوجيا الذكاء الاصطناعي.

نُشِر هذا المقال في Economic Front في 15 نيسان/أبريل 2024، وتُرجِم وأعيد نشره على موقع «صفر» بموافقة مُسبقة من الكاتب.