وجه الذكاء الاصطناعي المظلم
بلا شك ان الذكاء الاصطناعي هو آخر صيحات التكنولوجيا وأهم ما يدور عنه الحديث في عالم التقنية، فمنذ انتشار نماذج اللغة الضخمة (LLMs) بشكلها الحالي في نهاية عام 2022 والبشرية تحاول أن تواكب وتيرة التطوّر السريعة لهذه النماذج. وبينما سوّقت هذه الأدوات بانها خطوة الشرية القادمة مثلها مثل اختراع السيارات والكهرباء، وأنها ستسرّع حياتنا وتقلل من التكاليف والحاجة لقوة عاملة كبيرة ظهرت أصوات تنذر من خطرها، فإنتشار أدوات مثل تعديل الصور ومقاطع الفيديو بأيدي كل الناس بحد ذاته خطر وجودي، بالاضافة لأدوات تغيير الصوت التي أنتجت طرق إبداعية جديدة في النصب والإحتيال.
لكن، كل هذا كان بسيطاً بالمقارنة مع ما حدث في غزة، تبدأ القصة خلال العدوان عام 2014 وعام 2021، حين تم قصف “أهداف قيّمة” داخل القطاع بوتيرة 100-200 هدف في اليوم، مما أدى حسب أقوال مصادر مخابراتية لموقع “سيحا مكوميت” إلى نقص حاد بهذه الأهداف بعد 10 أيام قتال ب2021 و3 أسابيع في 2014. هذا الأمر شجّع قائد الأركان وقتها “أفيف كوخافي” أن يدمج منظومة “البشارة – הבשורה” أو بكلمات أخرى “مصنع الأهداف” داخل نظام عمل الجيش الإسرائيلي. لنفهم حجم الفرق الذي أحدثته هذه المنظومة، بعد 35 يوم من السابع من أكتوبر وبحسب الناطق بإسم الجيش قامت إسرائيل بقصف 15 ألف “هدف” في القطاع بمعدّل أكثر من 400 “هدف” في اليوم.
“ما هي “البشارة – הבשורה”؟” ابتدأ آدم راز في مقاله “الحرب الخوارزمية”: “إنه اسم شامل لعدة أنظمة ذكاء اصطناعي تنتج أهدافاً ثابتة (أصول/عقارات) لأغراض الهجوم. لقد أنتجت “البشارة” أهدافاً بوتيرة سريعة جداً، لم يسبق لها مثيل في التاريخ، من خلال خوارزمية تستمد المعلومات من مجموعة واسعة من المصادر، وتعالج هذه المعلومات وتقترح أهدافاً للهجوم. دخل النظام حيز التشغيل لأول مرة في الجيش الإسرائيلي أثناء عملية “حارس الأسوار” (عام 2021) وأنتج 200 هدف خلالها. لا يُعرف سوى القليل جداً عن كيفية عمل هذا النظام.”
وأضاف أيضاً “يجب علينا أن نكرر ونؤكد أن “البشارة – הבשורה” تنتج أهدافاً، لكنها لا “تُجَرِّمها” (أي لا تُثبت مشروعية استهدافها عسكرياً)، وبالتأكيد لا تملي طريقة القصف.” ما يعنيه آدم في هذا الموضع أن منظومة “البشارة – הבשורה” مثلها كمثل أي منظومة ذكاء اصطناعي، إذا طُلب منها أن تنتج “هدفاً” ستقوم بذلك حتى لو لم يكن ذلك “الهدف” حقيقياً أصلاً، ولهذا وجِد مقياس الدقّة (accuracy) لكل نموذج ذكاء إصطناعي لنعلم نسبة خطأ النموذج، لكن لا يوجد مصادر رسمية توضّح هذا الرقم بما يخص منطومة “البشارة – הבשורה”.
لنفهم هذه المنظومة أكثر يجب أن نعلم أن خوارزميات الذكاء الاصطناعي تتيح للحاسوب أن يعالج كمية معلومات لا يمكن للعقل البشري أن يستوعبها، فمثلا هناك نماذج يمكنها أن تعالج 80 سنة من مقاطع الفيديو في يوم واحد. لذلك منظومة ك”البشارة – הבשורה” يمكنها معالجة كل محادثة هاتفية، أو رسائل نصية أو منشورات أو تحركات ترصدها الأقمار الصناعية بحيث تمكنّها أن تعلم الكثير عن كل شخص يعيش داخل القطاع. يُضاف إلى كل هذا سهولة جعل تلك النماذج منحازة لتوجّه معيّن أو حتى أن تحمل فكرة مسبقة عنصرية عن شعب كامل، عبر تغذيتها بمعلومات وتعليمات تحمل ذات الطابع. كل هذا يزيد التساؤل عن ما هي المعايير لتحديد الأهداف؟ فهل تعتبر رسالة نصية، أو مظهر خارجي، أو تواجد في مكان معيّن كافٍ لتحديد شخص ما كـ”هدف”؟
الأهم من هذا كله هو سؤال “ما الفائدة من كل هذه الأهداف؟”، صرح مصدر شارك في عمليات سابقة لموقع “سيحا ميكويت”: “يُطلب منا البحث عن مبانٍ متعددة الطوابق (أبراج) تحتوي على نصف طابق يمكن ربطه بحماس، أحياناً يكون مكتباً إعلامياً، أو نقطة التقاء للنشطاء، أو مكتباً إدارياً. لقد فهمت أن هذا الطابق هو وسيلة تتيح للجيش إحداث دمار هائل في غزة. هذا ما قيل لنا”، وبما أن الجيش الإسرائيلي يعلم حاصل الضحايا الممكن قبل كل قصف بحسب مصدر لصحيفة ذا غارديان، تتضح لنا صورة أوسع، فإختيار أهداف (بعيداً عن عن دقّتها وصحّتها) يتيح “تبرير” وإمكانية لإبادة أكبر عدد ممكن من البشر والإضرار بحياتهم. ولهذا “التبرير” يجب أن تكون لنا وقفة مطوّلة اسأل الله أن يكتب لنا عمراً لنكملها.
