عبد الله سليمان الطليان

ونستكمل هنا ما ذكره الصحفي والكاتب البريطاني جيمس برايدل في كتابه (عصر مظلم جديد) حيث يقول بسبب عدة تطورات مهمة شهدها الحقل خضعت الشبكات العصبية لنهضة هائلة دعمت ثورة التوقعات الحالية المتعلقة بالذكاء الاصطناعي وأحد أبطالها العظام هو «غوغل» الذي قال أحد مؤسسيه سيرجي برين Sergey Brin عن التقدم الذي يشهده الذكاء الاصطناعي: (ينبغي أن تفترض أنه في يوم ما سنتمكن من جعل الآلات تعي وتفكر وتعمل أفضل منا)، ويهيب المدير التنفيذي بشركة «غوغل» ساندر بيتشاي Sundar Pichai، بتكرار القول إنه في «غوغل» المستقبلية سيصبح الذكاء الاصطناعي في الصدارة».

كان «غوغل» يستثمر في الذكاء الاصطناعي منذ فترة، وقد ظهر مشروعه الخاص (عقل غوغل) Google Brain في العام 2011 ليكشف أنه شيد شبكة عصبية تتكون من ألف آلة تحتوي على نحو ستة عشر ألف معالج، وغذاها بعشرة ملايين صورة مختارة من فيديوهات YouTube لم تكن الصور مصنفة، لكن الشبكة طورت القدرة على التعرف على وجوه البشر - والقطط - من دون معرفة مسبقة بما قد تعبر عنه هذه الأشياء.

التعرف على الصور Image Recognition هي المهمة الأولى في الواقع لاختبار النظم الذكية، وهي مهمة سهلة نسبيا بالنسبة إلى شركات مثل «غوغل». التي تنطوي أعمالها على بناء شبكات ضخمة من المعالجات السريعة، وحصد كميات هائلة من البيانات المتعلقة بالحياة اليومية لمستخدمي هذه الشبكات. استخدم فيسبوك Facebook الذي يستعين ببرنامج مماثل، أربعة ملايين صورة تخص مستخدميه في بناء برمجية أطلق عليها اسم (ديب فيس) «Deep Face» يمكنها التعرف على الناس بدقة تبلغ 98 في المائة.

(لكن استخدام البرمجية غير قانوني داخل أوروبا). الخطوة التالية هي استخدام هذه البرمجية لا في التعرف فقط، بل في التنبؤ.

وما أسهل الحصول على أمثلة على وجود انحيازات مبرمجة، ففي العام 2009 اشترت مستشارة استراتيجية أمريكية من أصل تايواني تدعى جوز وانغ Joz Wang كاميرا جديدة في عيد الأم، لكن حين حاولت التقاط صورة عائلية، رفضت الكاميرا التقاط أي صورة فوتوغرافية المرة تلو الأخرى، وأرسلت رسالة خطأ» تقول: (هل رمشت عين شخص ما؟) كانت الكاميرا المبرمجة مسبقا كي تنتظر حتى يتأهب الجميع بعيون مفتوحة وفي الاتجاه الصحيح، قد أخفقت في تفسير سحنة غير القوقازيين المختلفة. وفي العام نفسه نشر موظف أسود يعمل بإحدى وكالات بيع سيارات «الكرفان» في تكساس فيديو على اليوتيوب حظي بمشاهدة واسعة عن «كاميرا ويب» جديدة تفشل في التعرف على وجهه في حين يكبر صورة زميله أبيض البشرة ويردد:

أنا مستمر في التسجيل، إن انحيازات التقانات البصرية المبرمجة والعنصرية بخاصة ليست جديدة؛ وتطرق برومبرغ وتشاتارين أيضا إلى ارث (البولارويد)، وهي كاميرا مصممة الالتقاط صور الهيئات الشخصية ومزودة بزر دعم الإطلاق الوميض الذي جعل النقاط صور فوتوغرافية الأجسام سوداء أكثر سهولة ولأنها كانت الأفلام الكثيرة التي حكومة جنوب أفريقيا في عهد الفصل العنصري، كانت محل اهتمام (حركة العمال الثوريين ومقاطعة البولارويد) وذلك حين اكتشف العمال الأمريكيون أنها كانت تستخدم في إنتاج صور بطاقات الهوية سيئة السمعة التي كان يشير اليها السود الجنوب إفريقيون باسم الأصفاد handcuffs .

الدراية بالظلم التاريخي ضرورية لفهم مخاطر التطبيق الطائش للتقانات الجديدة الذي يزدرد أخطاء الأمس من دون تمحيص، لن نحل مشكلات الحاضر بأدوات الماضي. وكما بين الفنان والجغرافي النقدي تريفور باغلن Trevor Paglen فإن صعود الذكاء الاصطناعي يفاقم هذه المخاوف بسبب اعتماده التام على معلومات تاريخية باعتبارها بيانات يتمرن عليها: الماضي مكان شديد العنصرية ولا نملك سوى بيانات من هذا الماضي لتمرين الذكاء الاصطناعي.

وهذه النظم لا يقتصر وجودها على الأطروحات الأكاديمية وكاميرات المستهلكين فقط - بل هي تحدد بالفعل النطاق الكلي لحيوات البشر اليومية. لاسيما أن الإيمان بالنظم الذكية كان يطبق على نطاق واسع داخل النظامين الشرطي والقضائي. فنصف الخدمات الشرطية في الولايات المتحدة تستعين بالفعل بنظم (الشرطة التنبؤية) predictive policing مثل(بريد بول) PredPol وهو حزمة برمجيات تستخدم (رياضيات عالية المستوى وتعلم الآلة ونظريات مجربة عن السلوك الإجرامي) للتنبؤ بالأوقات والأماكن التي يتوقع أن تشهد وقوع جرائم جديدة على الأرجح، أو بمعنى آخر نشرة أحوال جوية لكن عن خرق القانون.