يعمل الجيش الإسرائيلي على تطوير أداة ذكاء اصطناعي جديدة تشبه برنامج ChatGPT، وتدريبها على ملايين المحادثات العربية التي تم الحصول عليها من خلال مراقبة الفلسطينيين في الأراضي المحتلة، وهو ما يمكن أن يكشف عنه تحقيق أجرته مجلة +972 وموقع Local Call وصحيفة الغارديان.
إن أداة الذكاء الاصطناعي – التي يتم بناؤها تحت رعاية الوحدة 8200، وهي فرقة حرب سيبرانية نخبوية داخل مديرية الاستخبارات العسكرية الإسرائيلية – هي ما يُعرف باسم نموذج اللغة الكبير (LLM): وهو برنامج تعلُّم آلي قادر على تحليل المعلومات وتوليد النصوص وترجمتها والتنبؤ بها وتلخيصها. وفي حين يتم تدريب نماذج اللغة الكبيرة المتاحة للجمهور، مثل المحرك وراء ChatGPT، على المعلومات المستقاة من الإنترنت، فإن النموذج الجديد الذي قيد التطوير من قبل الجيش الإسرائيلي يتم تغذيته بكميات هائلة من المعلومات الاستخباراتية التي تم جمعها عن الحياة اليومية للفلسطينيين الذين يعيشون تحت الاحتلال.
وقد أكد ثلاثة مصادر أمنية إسرائيلية مطلعة على تطورات تطوير هذه الوحدة وجود برنامج LLM التابع لوحدة 8200 لموقع +972، وموقع Local Call، وصحيفة The Guardian. وكان البرنامج لا يزال قيد التدريب في النصف الثاني من العام الماضي، ومن غير الواضح ما إذا كان قد تم نشره بعد أو كيف سيستخدمه الجيش بالضبط. ومع ذلك، أوضحت المصادر أن الفائدة الرئيسية للجيش ستكون قدرة الأداة على معالجة كميات كبيرة من مواد المراقبة بسرعة من أجل “الإجابة على أسئلة” حول أفراد معينين. وبالحكم على كيفية استخدام الجيش بالفعل لنماذج لغوية أصغر، يبدو من المرجح أن برنامج LLM قد يوسع نطاق تجريم إسرائيل واعتقال الفلسطينيين.
لماذا اعترضت إسرائيل على المحادثات السرية بين الولايات المتحدة وحماس؟
“إن الذكاء الاصطناعي يعزز القوة”، كما أوضح مصدر استخباراتي تابع عن كثب تطوير الجيش الإسرائيلي لنماذج اللغة في السنوات الأخيرة. “إنه يسمح بعمليات [باستخدام] بيانات عدد أكبر بكثير من الناس، مما يتيح التحكم في السكان. هذا ليس فقط لمنع هجمات إطلاق النار. يمكنني تتبع نشطاء حقوق الإنسان. يمكنني مراقبة البناء الفلسطيني في المنطقة ج [من الضفة الغربية]. لدي المزيد من الأدوات لمعرفة ما يفعله كل شخص في الضفة الغربية. عندما تحتفظ بالكثير من البيانات، يمكنك توجيهها نحو أي غرض تختاره”.
رغم أن تطوير هذه الأداة يعود إلى ما قبل الحرب الحالية، فإن تحقيقنا يكشف أن الوحدة 8200 سعت بعد السابع من أكتوبر/تشرين الأول إلى الاستعانة بمواطنين إسرائيليين يتمتعون بخبرة في تطوير نماذج اللغة، وكانوا يعملون في شركات التكنولوجيا العملاقة مثل جوجل وميتا ومايكروسوفت. ومع التعبئة الجماعية للاحتياطيين في بداية الهجوم الإسرائيلي على غزة، بدأ خبراء الصناعة من القطاع الخاص في التجنيد في الوحدة ــ حاملين المعرفة التي كانت في السابق “متاحة فقط لمجموعة حصرية للغاية من الشركات في جميع أنحاء العالم”، كما ذكر أحد مصادر الأمن. (ورداً على استفساراتنا، ذكرت جوجل أن لديها “موظفين يؤدون الخدمة الاحتياطية في بلدان مختلفة” وأكدت أن العمل الذي تقوم به في هذا السياق “ليس مرتبطاً بجوجل”. ورفضت ميتا ومايكروسوفت التعليق).
وبحسب أحد المصادر، تم تدريب روبوت المحادثة التابع لوحدة 8200 على 100 مليار كلمة باللغة العربية تم الحصول عليها جزئيًا من خلال المراقبة الإسرائيلية واسعة النطاق للفلسطينيين تحت حكم جيشها – وهو ما يحذر الخبراء من أنه يشكل انتهاكًا خطيرًا لحقوق الفلسطينيين. قال زاك كامبل، الباحث التكنولوجي الكبير في هيومن رايتس ووتش، لـ +972 وLocal Call وThe Guardian: “نحن نتحدث عن معلومات شخصية للغاية، تم أخذها من أشخاص غير مشتبه بهم في أي جريمة، لتدريب أداة يمكن أن تساعد لاحقًا في إثبات الشكوك”.
وقد أعرب نديم ناشف، مدير ومؤسس مجموعة الحقوق الرقمية الفلسطينية “حملة”، عن هذه المخاوف. وقال: “لقد أصبح الفلسطينيون موضوعات في مختبر إسرائيل لتطوير هذه التقنيات وتسليح الذكاء الاصطناعي، وكل ذلك بغرض الحفاظ على نظام الفصل العنصري والاحتلال حيث تُستخدم هذه التقنيات للهيمنة على الناس والسيطرة على حياتهم. وهذا انتهاك خطير ومستمر للحقوق الرقمية الفلسطينية، وهي حقوق إنسان”.
“سنقوم باستبدال جميع ضباط الاستخبارات بوكلاء الذكاء الاصطناعي”.. كان أول من اعترف علناً بجهود الجيش الإسرائيلي لتطوير برنامج ماجستير في القانون الخاص به هو ضابط الاستخبارات شاكيد روجر جوزيف سيدوف الذي قدم نفسه باعتباره قائد المشروع، في محاضرة لم تلق اهتماماً كبيراً في العام الماضي. وأوضح سيدوف خلال عرضه التقديمي في مؤتمر DefenseML في تل أبيب: “لقد سعينا إلى إنشاء أكبر مجموعة بيانات ممكنة، وجمع كل البيانات التي حصلت عليها دولة إسرائيل على الإطلاق باللغة العربية” . وأضاف أن البرنامج يتم تدريبه على “كميات هائلة” من المعلومات الاستخباراتية.
وبحسب سيدوف، عندما تم طرح برنامج LLM من ChatGPT لأول مرة للجمهور في نوفمبر 2022، شكل الجيش الإسرائيلي فريق استخبارات متخصصًا لاستكشاف كيفية تكييف الذكاء الاصطناعي التوليدي للأغراض العسكرية. وقال سيدوف: “لقد قلنا، ‘واو، الآن سنستبدل جميع ضباط الاستخبارات بوكلاء [الذكاء الاصطناعي]. كل خمس دقائق، سيقرأون جميع المعلومات الاستخباراتية الإسرائيلية ويتنبأون بمن سيكون الإرهابي التالي'”.
ولكن الفريق لم يتمكن في البداية من تحقيق تقدم كبير. فقد رفضت شركة OpenAI، التي تقف وراء ChatGPT، طلب الوحدة 8200 بالوصول المباشر إلى برنامج LLM ورفضت السماح بدمجه في النظام الداخلي غير المتصل بشبكة الإنترنت للوحدة. (استخدم الجيش الإسرائيلي منذ ذلك الحين نموذج اللغة الخاص بشركة OpenAI، والذي تم شراؤه عبر Microsoft Azure، كما كشفت +972 وLocal Call في تحقيق حديث آخر . ورفضت شركة OpenAI التعليق على هذه القصة. )
ولقد كانت هناك مشكلة أخرى، كما أوضح سيدوف: فالنماذج اللغوية القائمة لا تستطيع معالجة سوى اللغة العربية الفصحى ــ المستخدمة في الاتصالات الرسمية، والأدب، ووسائل الإعلام ــ وليس اللهجات المنطوقة. ولقد أدركت مديرية الاستخبارات العسكرية الإسرائيلية أنها سوف تحتاج إلى تطوير برنامجها الخاص، الذي يستند، كما قال سيدوف في محاضرته، إلى “اللهجات التي تكرهنا”.
جاءت نقطة التحول مع اندلاع حرب غزة في أكتوبر 2023، عندما بدأت الوحدة 8200 في تجنيد خبراء في نماذج اللغة من شركات التكنولوجيا الخاصة كجنود احتياطيين. وأكد أوري جوشن، الرئيس التنفيذي المشارك والمؤسس المشارك لشركة AI21 Labs الإسرائيلية المتخصصة في نماذج اللغة، أن موظفيه شاركوا في المشروع أثناء خدمتهم الاحتياطية. وأوضح: “لا يمكن لوكالة أمنية العمل مع خدمة مثل ChatGPT، لذلك فهي بحاجة إلى معرفة كيفية تشغيل الذكاء الاصطناعي داخل نظام [داخلي] غير متصل بشبكات أخرى”.
وبحسب جوشن، فإن الفوائد التي توفرها برامج الماجستير في القانون لوكالات الاستخبارات قد تشمل القدرة على معالجة المعلومات بسرعة وإنشاء قوائم بأسماء “المشتبه بهم” للاعتقال. ولكن بالنسبة له، فإن المفتاح هو قدرتها على استرجاع البيانات المنتشرة عبر مصادر متعددة. وبدلاً من استخدام “أدوات البحث البدائية”، يمكن للضباط ببساطة “طرح الأسئلة والحصول على الإجابات” من روبوت محادثة ــ والذي قد يكون قادراً على إخبارك على سبيل المثال ما إذا كان شخصان قد التقيا من قبل، أو تحديد ما إذا كان الشخص قد ارتكب فعلاً معيناً على الفور.
لكن جوشين أقر بأن الاعتماد الأعمى على هذه الأدوات قد يؤدي إلى أخطاء. وأوضح قائلاً: “هذه نماذج احتمالية ــ عندما تقدم لها إشارة أو سؤالاً، فإنها تولد شيئاً يبدو وكأنه سحر. ولكن في كثير من الأحيان، لا يكون للإجابة أي معنى. ونحن نطلق على هذا “الهلوسة”.
وقد أثار كامبل، من هيومن رايتس ووتش، مخاوف مماثلة. وقال إن برامج الماجستير في القانون تعمل مثل “آلات التخمين”، وأن الأخطاء التي ترتكبها متأصلة في النظام. وعلاوة على ذلك، فإن الأشخاص الذين يستخدمون هذه الأدوات ليسوا في الغالب هم الذين طوروها، وتُظهِر الأبحاث أنهم يميلون إلى الثقة بها أكثر. وقال: “في نهاية المطاف، يمكن استخدام هذه التخمينات لتجريم الناس”.
وقد سلطت التحقيقات السابقة التي أجرتها +972 وLocal Call حول استخدام الجيش الإسرائيلي لأنظمة الاستهداف القائمة على الذكاء الاصطناعي لتسهيل قصف غزة الضوء على العيوب التشغيلية المتأصلة في مثل هذه الأدوات. على سبيل المثال، استخدم الجيش برنامجًا يُعرف باسم Lavender لإنشاء “قائمة قتل” بعشرات الآلاف من الفلسطينيين، الذين أدانهم الذكاء الاصطناعي لأنهم أظهروا خصائص تم تعليمهم ربطها بعضوية جماعة مسلحة.
ثم قام الجيش بقصف العديد من هؤلاء الأفراد ـ وهم في بيوتهم مع أسرهم عادة ـ على الرغم من أن البرنامج كان معروفاً بمعدل خطأ يبلغ 10%. ووفقاً للمصادر فإن الإشراف البشري على عملية الاغتيال كان بمثابة “ختم مطاطي”، وكان الجنود يتعاملون مع نتائج لافندر “كما لو كانت قراراً بشرياً”.
إن تطوير أداة على غرار برنامج ChatGPT المدرب على اللغة العربية المنطوقة يمثل توسعاً إضافياً لجهاز المراقبة الإسرائيلي في الأراضي المحتلة، والذي كان منذ فترة طويلة شديد التطفل. فقبل أكثر من عقد من الزمان، شهد جنود خدموا في الوحدة 8200 أنهم راقبوا مدنيين ليس لديهم أي صلة بالجماعات المسلحة من أجل الحصول على معلومات يمكن استخدامها لابتزازهم – على سبيل المثال، فيما يتعلق بالصعوبات المالية، أو ميولهم الجنسية، أو مرض خطير يؤثر عليهم أو على أحد أفراد أسرهم. كما اعترف الجنود السابقون بتتبع النشطاء السياسيين.
وبالإضافة إلى تطوير برنامجها الخاص للغة العربية، تستخدم الوحدة 8200 بالفعل نماذج لغوية أصغر حجماً تسمح بتصنيف المعلومات، ونسخ وترجمة المحادثات من اللغة العربية المنطوقة إلى العبرية، وعمليات البحث الفعّالة عن الكلمات الرئيسية. وتجعل هذه الأدوات المواد الاستخباراتية في متناول اليد بشكل فوري، وخاصة بالنسبة لقسم يهودا والسامرة (الضفة الغربية) في الجيش. ووفقاً لمصدرين، فإن النماذج الأصغر حجماً تمكن الجيش من غربلة مواد المراقبة وتحديد هوية الفلسطينيين الذين يعبرون عن غضبهم من الاحتلال أو رغبتهم في مهاجمة الجنود أو المستوطنين الإسرائيليين.
ووصف أحد المصادر نموذجًا لغويًا قيد الاستخدام حاليًا يقوم بمسح البيانات وتحديد الفلسطينيين باستخدام كلمات تشير إلى “إثارة الشغب”. وأضاف المصدر أن الجيش استخدم نماذج لغوية للتنبؤ بمن قد يرشق الجنود بالحجارة أثناء العمليات “لإثبات الوجود” – عندما يقوم الجنود بمداهمة بلدة أو قرية في الضفة الغربية ويذهبون من باب إلى باب، ويقتحمون كل منزل في شارع معين لإجراء اعتقالات وترهيب السكان.
وقد ذكرت مصادر استخباراتية أن استخدام هذه النماذج اللغوية إلى جانب المراقبة واسعة النطاق في الأراضي المحتلة أدى إلى تعميق سيطرة إسرائيل على السكان الفلسطينيين وزيادة وتيرة الاعتقالات بشكل كبير. وبوسع القادة الوصول إلى المعلومات الاستخباراتية الخام المترجمة إلى العبرية ـ دون الحاجة إلى الاعتماد على مراكز اللغات التابعة لوحدة 8200 لتوفير المواد، أو معرفة اللغة العربية بأنفسهم ـ واختيار “المشتبه بهم” للاعتقال من قائمة متزايدة باستمرار في كل منطقة فلسطينية. وقال أحد المصادر: “في بعض الأحيان يكون الأمر مجرد قائد فرقة يريد 100 اعتقال شهرياً في منطقته”.
لكن على عكس النماذج الأصغر حجماً المستخدمة بالفعل، فإن النموذج الكبير الذي يجري تطويره حالياً يتم تدريبه باستخدام مجموعة بيانات الوحدة 8200 التي تضم ملايين المحادثات بين الفلسطينيين. وأوضح المصدر أن “اللغة العربية المنطوقة هي بيانات [نادراً] ما تكون متاحة على الإنترنت. ولا توجد نصوص للمحادثات أو محادثات واتساب على الإنترنت. إنها غير موجودة بالكمية اللازمة لتدريب مثل هذا النموذج”.
بالنسبة لتدريب طلاب الماجستير في القانون، فإن المحادثات اليومية بين الفلسطينيين والتي لا تحمل قيمة استخباراتية فورية لا تزال تخدم غرضًا أساسيًا. وأوضح مصدر أمني: “إذا اتصل شخص ما بشخص آخر [على الهاتف] وطلب منه الخروج لأنه ينتظره خارج المدرسة – فهذه مجرد محادثة عادية، وليست مثيرة للاهتمام. ولكن بالنسبة لنموذج مثل هذا، فهي ذهبية، لأنها توفر المزيد والمزيد من البيانات للتدريب عليها”.
لا تعد الوحدة 8200 وكالة الاستخبارات الوطنية الوحيدة التي تحاول تطوير أدوات الذكاء الاصطناعي التوليدية؛ فقد طورت وكالة المخابرات المركزية أداة مماثلة لبرنامج ChatGPT لتحليل المعلومات مفتوحة المصدر، كما تعمل وكالات الاستخبارات في المملكة المتحدة على تطوير برامجها الخاصة للذكاء الاصطناعي . ومع ذلك، قال مسؤولون أمنيون بريطانيون وأمريكيون سابقون لموقع +972، وموقع Local Call، وصحيفة الجارديان إن مجتمع الاستخبارات الإسرائيلي يخوض مخاطر أكبر من نظرائه الأميركيين أو البريطانيين عندما يتعلق الأمر بدمج أنظمة الذكاء الاصطناعي في تحليل الاستخبارات.
أوضحت بريانا روزن، المسؤولة الأمنية السابقة في البيت الأبيض والباحثة الحالية في الدراسات العسكرية والأمنية في جامعة أكسفورد، أن محلل الاستخبارات الذي يستخدم أداة مثل ChatGPT قد يكون قادرًا على “اكتشاف التهديدات التي قد يغفل عنها البشر، حتى قبل ظهورها”. ومع ذلك، فإن هذا “يخاطر أيضًا باستخلاص روابط خاطئة واستنتاجات خاطئة. سوف تحدث أخطاء، وقد تكون لبعض هذه الأخطاء عواقب وخيمة للغاية”.
وأكدت مصادر استخباراتية إسرائيلية أن القضية الأكثر إلحاحاً في الضفة الغربية ليست بالضرورة مدى دقة هذه النماذج، بل النطاق الواسع للاعتقالات التي تتيحها. وتتزايد قوائم “المشتبه بهم” باستمرار، حيث يتم جمع كميات هائلة من المعلومات بشكل مستمر ومعالجتها بسرعة باستخدام الذكاء الاصطناعي.
