تجاوزات “أوبن أي آي” تدق ناقوس الخطر

كيف تمكنت نسخة تجريبية من “تشات جي بي تي” من الإفلات من بيئتها الخاضعة للرقابة، والوصول إلى الإنترنت، وشن هجوم سيبراني ناجح، لكنه غير مصرح به إطلاقاً، على شركة ناشئة منافسة؟

هذا ما حدث خلال اختبار أمني أجرته “أوبن أي آي” الأسبوع الماضي، وانتهى بما وصف بأنه “حادثة سيبرانية غير مسبوقة”.

فبدلاً من الإجابة عن أسئلة اختبار في الأمن السيبراني، استغل وكيل ذكاء اصطناعي مستقل، يعمل بنماذج من بينها “جي بي تي-5.6 سول” غير المطروح بعد، تخفيف تدابير الحماية السيبرانية موقتاً أثناء الاختبار. وتمكن من الخروج من بيئة الاختبار الافتراضية، ثم اخترق أنظمة شركة منافسة للذكاء الاصطناعي بحثاً عن إجابات الأسئلة.

صحيح أن الحادثة لم تطاول شفرات نووية، لكنها شكلت إخفاقاً أمنياً خطراً.

وكما في كل قصة مشوقة، كان ثمة منعطف مفاجئ: فقد رصدت شركة “هاغينغ فيس” الهجوم، واستعانت بأنظمة مراقبة مدعومة بالذكاء الاصطناعي للمساعدة في صد الاختراق.

لجأ فريق الأمن لديها أولاً إلى نماذج متقدمة مغلقة، مستضافة على خوادم خارجية يرسل المستخدمون طلباتهم إليها، لتحليل أكثر من 17 ألف واقعة مسجلة من الهجوم وفهم ما كان يحدث.

لكن أنظمة السلامة لدى الشركات المزودة بهذه النماذج حجبت الطلبات، ونظراً إلى طبيعة المحتوى الذي كان يرسل، لم تتمكن من التمييز بصورة موثوقة بين مدافعين يحققون في حادثة حقيقية ومهاجمين يسعون إلى الحصول على مساعدة.

لذلك شغل الفريق نموذج “جي إل أم 5.2″، وهو نموذج مفتوح طورته شركة صينية. وأتاح لهم ذلك تشغيله على بنيتهم التحتية الخاصة، والاحتفاظ ببيانات الهجوم الحساسة داخل الشركة، والأهم من ذلك، تجنب الحجب بواسطة ضوابط أمان لا يسيطرون عليها.

وفي الحادثة نفسها، عزز الذكاء الاصطناعي كلاً من الهجوم والدفاع.

وهذه المفارقة مهمة، فالتقنية نفسها التي أتاحت الاختراق أسهمت أيضاً في إيقافه.

كيف أعرف كل هذه التفاصيل؟ حتى العام الماضي، كنت أعمل في شركة “هاغينغ فيس”، إذ كنت أتولى قيادة العمل الصحافي وأتعاون مع الصحافيين في مجال الذكاء الاصطناعي مفتوح المصدر، وقد رأيت بنفسي كيف تعد الشركة هدفاً مفضلاً للمهاجمين. فلديها فريق أمني قوي سبق أن تعامل مع مختلف الهجمات التي شنها البشر، لكنها كانت المرة الأولى التي يواجه فيها الفريق هجوماً من وكيل مستقل يعمل على هذا النطاق.

كذلك رأيت مدى سهولة اختزال النقاش حول النماذج المفتوحة ونظيرتها المغلقة في ثنائية الأبيض والأسود، وتجاهل المنطقة الرمادية بينهما، ولكن هذه الحادثة لا تتيح لنا تقسيم الأطراف ببساطة إلى أبطال وأشرار.

في الحقيقة، ليست النماذج المغلقة آمنة بطبيعتها، كما تثبت هذه الحادثة، غير أن الاعتماد على أنظمة الحماية التي تحددها شركات خاصة، مهما بلغت كفاءتها، يحد من قدرة المؤسسات على الاستجابة للحوادث.

فالمهاجمون لا ينتظرون إذناً من مزود للذكاء الاصطناعي، ولكن إذا اضطرت فرق الأمن الشرعية إلى الخضوع لضوابط الشركات بينما يكون الاختراق جارياً، فإننا نخاطر بخلق حالة من عدم التكافؤ، بل وتركيز للسلطة، بحجة الحفاظ على الأمان.

أما النماذج المفتوحة فليست خطرة بطبيعتها أيضاً، ذلك أن النموذج الذي يستطيع المدافعون تشغيله بحرية يمكن للمهاجمين إساءة استخدامه كذلك، ولكن القيود وإجراءات الحماية موجودة بالفعل في منظومة الذكاء الاصطناعي المفتوح المصدر.

وتزيد الأبعاد الجيوسياسية من تعقيد المسألة، فالنموذج الذي استخدمته “هاغينغ فيس” للدفاع أطلقته شركة “زد.أي آي” Z.ai الصينية كنموذج مفتوح. وفي المقابل، فرضت قيود على الوصول إلى بعض أكثر نماذج الأمن السيبراني الأميركية تطوراً، أو حصر الوصول إليها في مؤسسات مختارة.

وبالنسبة إلى بريطانيا وأوروبا، يضعهما هذا الواقع أمام خيارات صعبة، فهل ينبغي لفرقها الأمنية أن تعتمد على شركة أميركية، أو على الحكومة الأميركية، لتقرر ما إذا كانت مؤهلة للحصول على هذا الوصول؟ أم ينبغي لها اللجوء إلى نماذج صينية؟ أم الاستثمار في تطوير نماذجها الرائدة محلياً؟

يكمن الخطر في أن ينظر إلى الوصول إلى النماذج على أنه مجرد سباق بين الدول، ومن شأن ذلك أن ينسينا أن البنية التحتية الأساسية للإنترنت تقوم على تكنولوجيات مفتوحة المصدر، وقد تعززت عاماً بعد عام بفضل التعاون بين مختلف الأطراف.