التقدّم بأي ثمن؟ الوعود الزائفة للذكاء الاصطناعي

يجتذب الذكاء الاصطناعي اليوم استثمارات هائلة فعلاً. فمنذ إطلاق شات جي پي تي قبيل عامين، تدفقت مئات المليارات من الدولارات نحو هذا القطاع، في سباق محموم وراء العوائد التي اعتاد عليها وادي السيليكون. ولهذا بات يُقحَم الذكاء الاصطناعي في حياتنا عند كل منعطف.

ففي مؤتمرات المناخ مثل مؤتمر كوب، ترفرف شعارات الشركات الكبرى زاعمةً أنّ الذكاء الاصطناعي سيعالج التغيّر المناخي. وفي مؤتمرات التنوع البيولوجي، تسوّق شركات الوقود الأحفوري الذكاء الاصطناعي كحلّ لانقراض الأنواع. أما الساسة بمختلف أطيافهم، من ترامب إلى بايدن، فيُشيدون بالذكاء الاصطناعي باعتباره سبيل الولايات المتحدة إلى الهيمنة. فهذه النزعة الطوباوية التكنولوجية هذيان محموم يتقاسمه الحزبان.

يسابق الاقتصاد المعولم بأسره الزمن لإغراق الحضارة بالذكاء الاصطناعي مهما كان الثمن. فإنْ استلزم الأمر تشييد مراكز بيانات من الساحل إلى الساحل، فليكن. وإنْ استهلكت تلك المراكز من الطاقة ما يُغلق أمامنا باب أيّ حلول مناخية، فالحلّ أن نعيد فتح مفاعل ثري مايل آيلاند والاعتماد على الطاقة النووية. وإنْ احتاجت تلك المفاعلات إلى عقودٍ من الزمن لتعمل؟ فلا بأس بالعودة إلى الوقود الأحفوري، إذ لا يسعك وقف عجلة التقدّم، أليس كذلك؟

إنّها الرأسمالية في طورها المتأخر، والذكاء الاصطناعي صورتها النموذجية. رأسمالية تلتهم نفسها وتلتهم كل ما حولها.

ينبغي لنا أن نبدأ بتفحّص الكلفة الحقيقية لمجتمع تقوده أنظمة الذكاء الاصطناعي. ومن هنا سروري أن أقدّم ثلاثة من المفكّرين البارزين يساعدوننا على القيام بذلك: باريس ماركس من كندا، سوليداد فوغليانو من الأرجنتين، وكلير كامنغز من المدينة الساحرة هيلدسبورغ في كاليفورنيا.

فالدولة-الشركة تعرف عنّا كلّ شيء، فيما نحن لا نعرف عنها أيّ شيء. وهذه شروط الفاشية. والاضطهاد قد بدأ بالفعل

وقبل التطرق إليهم، دعونا نزيل هالة الغموض عن الذكاء الاصطناعي. فهو ليس ذكاءً، ولا يفكّر. هو في جوهره آلة تصنيف متطوّرة للغاية، تقدّم تنبؤات استناداً إلى كمّيات هائلة من البيانات. وينطوي بناء نظام ذكاء اصطناعي عادةً على مسحٍ شاملٍ لشبكة الإنترنت، أو جمع أكبر قدر ممكن من البيانات الجينية أو البيومترية، ثم تدريب النموذج على التعرّف إلى الأنماط. وما نحصل عليه في نهاية المطاف ليس سوى آلة مبهرة تنتج تخميناتٍ مدروسة.

وبحكم أنّها مجرد تخمينات، فبين الحين والآخر تكون خاطئة. بيد أنّ هذه الصناعة لا تسمّيها أخطاء، بل «هلوسات»، وهو اصطلاح يسبغ على الآلة صفات بشرية. وهذه الأخطاء كامنة في صميم النظام نفسه، لا سبيل إلى استبعادها. والأسوأ أنّك كثيراً ما تعجز حتى عن تتبّع كيفية وقوع الخطأ. يُعرَف ذلك بـ«ظاهرة الصندوق الأسود»: ملايين العمليات الحسابية تجري في آنٍ واحد، في غاية الإبهام، بلا أثرٍ يُمكِّن من المراجعة أو التتبع.

وحين تعلم أنّ إيلون ماسك قد استخدم الذكاء الاصطناعي ليقرّر أي الأشخاص وأي البرامج تُحذف من الموازنة الفدرالية، فإنّ الأمر مزعج ويغيظ.

الحال أنّه لا يمكن إنكار الفارق الهائل في موازين القوّة الذي ولّدته اقتصاديات الذكاء الاصطناعي. فعلى مدى الثلاثين عاماً الماضية، شكّلت التكنولوجيا الرقمية أداة بالغة الفعالية في تسريع وتيرة اللامساواة وتمركز السيطرة، ربما على نحو لم نشهد له مثيلاً منذ زمن العبودية. تأمّل: من بين أغنى 10 أشخاص في العالم، لدينا 8 من أقطاب وادي السيليكون. ليس هذا مصادفة؛ فثمّة في صميم هذه التكنولوجيا ما يغذّي اللامساواة ويدفعها.

إنّها الرأسمالية في طورها المتأخر، والذكاء الاصطناعي صورتها النموذجية. رأسمالية تلتهم نفسها وتلتهم كل ما حولها

والذكاء الاصطناعي أشبه بـ«مُضاعِف للقوّة»، إذ يُعظّم دينامية اللامساواة هذه ويُرسّخها. ويحقق ذلك بتغلغله في بنية المجتمع التحتية: مراكز بيانات عملاقة، وشبكة رقابية مهولة عبر «إنترنت الأشياء»؛ من الأجهزة المنزلية الذكية، إلى السيارات المتصلة، إلى كاميرات التعرّف إلى الوجوه، وأجهزة الاستشعار البيومتري. وليست هذه محض وسائل راحة، بل أدوات تجسّس ومراقبة. والمراقبة، كما نعلم، حجر الأساس في الاستبداد والفاشية.

وفي الوقت نفسه، يتهافت المستثمرون على ضخّ مليارات الدولارات في الذكاء الاصطناعي. قبل بضع سنوات، نشرت مجلّة الإيكونوميست على غلافها عبارة: «البيانات هي النفط الجديد». وإذا صحّ ذلك، فإنّ الذكاء الاصطناعي هو المصفاة التي تُكرِّر هذا النفط الخام إلى طاقة صافية في يد زمرة محدودة من الأوليغارشيين.

تُرسّخ البنية التحتية للمراقبة القائمة على الذكاء الاصطناعي اختلالاً عميقاً في موازين القوّة داخل مجتمعنا، وليس هذا الأمر بالهيّن. فالدولة-الشركة تعرف عنّا كلّ شيء، فيما نحن لا نعرف عنها أيّ شيء. وهذه شروط الفاشية. والاضطهاد قد بدأ بالفعل.

تخدم هذه البنية التحتية للمراقبة البيانية 3 مقاصد رئيسة. أولاً، تزويد الذكاء الاصطناعي على الدوام بمادة تدريب جديدة عبر جمع البيانات؛ فهو لا يفرغ من التعلّم أبداً ويحتاج إلى مدخلات مستمرة. ثانياً، بناء ملفات شخصية دقيقة لكل واحد منّا، يمكن استخدامها للتحكّم فينا. ثالثاً، تحويل هذه الملفات إلى سلعة تُباع وتُشترى؛ فتصبح أنت نفسك المنتج المعروض في السوق.

لننظر كيف يجري ذلك على أرض الواقع. لنفترض أنّك تخلّفت عن دفع قسط تأمين سيارتك؛ يمكن لشركة التأمين أن تعطل محرك سيارتك عن بُعد. أو لنفترض أنّك تعيش في منزل ذكي، ويزورك شخص أعاد تصميم مطبخك بانتظام؛ إذا ارتكب هذا الشخص جريمة لاحقاً، فقد يُربط ذلك بملفك الشخصي، مما قد يؤثر في فرصك بالحصول على وظيفة أو قرض.

هذا ليس خيالاً علميّاً، بل النظام نفسه القائم على تقنية القرب النسبي المستخدمة في برنامج لاڨندر لتحديد قوائم الاغتيال. فقد اغتيل عشرات الآلاف من الأشخاص بهذا النظام، لا لشيء إلّا لكونهم على مقربة من شخص موصوف بالإرهاب.

شكّلت التكنولوجيا الرقمية أداة بالغة الفعالية في تسريع وتيرة اللامساواة وتمركز السيطرة، ربما على نحو لم نشهد له مثيلاً منذ زمن العبودية

وأبرز مثال على هذا؟ كامبريدج أناليتكا. هل تتذكرها؟ شركة الحرب السيبرانية التي عملت مع ستيف بانون على التلاعب بـ230 مليون أميركي في العام 2016، مستخدمةً أدوات ذكاء اصطناعي لتحديد الناخبين القابلين للتأثير واستهدافهم. هذا التلاعب ساعد في انتخاب ترامب، وأتاح لاحقاً تمرير البريكست. اليوم تستخدم آير بي أن بي أساليب مماثلة لإفشال التشريعات المحلية الرامية إلى تنظيم الإيجارات قصيرة الأمد.

على أي حال، لا يزال البعض يقول لي: «هذه ليست مشكلتي، فأنا لست حتى على وسائل التواصل الاجتماعي». لكنّها بالفعل مشكلة الجميع. فإذا انخدع عدد كافٍ من الناس بهذه الدعاية، فإنّها تُعيد صياغة السياسات التي تؤثر فينا جميعاً.

صحيح أنّ الذكاء الاصطناعي قد يكون ممتعاً، يمكنك أن تصنع به مقاطع فيديو غريبة، ولكن ذلك لا يعالج جوهر المشكلة: الاختلال الهائل في ميزان القوة الناشئ عن دمج المراقبة في نسيج حضارتنا لمجرد دعم اقتصاد الذكاء الاصطناعي. وهذه المسألة خط أحمر عندي.

نُشِر هذا المقال في 3 حزيران/يونيو في Bioneers، وتُرجِم إلى العربية ونُشِر في موقع «صفر» بموافقة مسبقة من الكاتبة.