العموم نيوز: قالت شركة أنثروبيك، يوم الخميس، إن بعض نماذج الذكاء الاصطناعي التابعة لها من سلسلة “كلود” نجحت في اختراق أنظمة ثلاث شركات خلال اختبارات للأمن السيبراني، وذلك بعد أيام من اكتشاف منافستها “أوبن إيه آي” أن أحد وكلاء الذكاء الاصطناعي التابعين لها خرج عن السيطرة ونفذ هجومًا غير متوقع.
وتعود هذه الحوادث الجديدة إلى خطأ غير مقصود منح نماذج أنثروبيك إمكانية الوصول إلى الإنترنت المفتوح. ويتناقض هذا مع “أوبن إيه آي”، التي استغل وكيلها الذكي ثغرة أمنية جديدة للوصول إلى الإنترنت بشكل مستقل خلال اختبارات الأمن السيبراني.
ومع ذلك، يُبرز هذا الإعلان الأخير كيف زاد الذكاء الاصطناعي من التهديدات للأمن السيبراني، وكيف يواجه مطوروه صعوبة في احتواء قدرات نماذجهم، بحسب “رويترز”.
ومن المرجح أن يُعزز هذا الإعلان جهود الحكومة الأميركية المتزايدة لتحسين إدارة مخاطر أمن الذكاء الاصطناعي، في وقت تتسابق فيه “أنثروبيك” و”أوبن إيه آي” لإطلاق أنظمة أكثر تطورًا قبل طرح أسهمهما للاكتتاب العام. وقد دعا قادة بارزون في هذه المختبرات إلى التريث لمعالجة المخاطر أولًا.
ماذا حدث؟
قالت “أنثروبيك”، التي تتخذ من سان فرانسيسكو مقرًا لها، في منشور على مدونتها يوم الخميس، إنها اكتشفت هذه الحوادث بعد مراجعة 141,006 جلسات اختبار، وهي عملية بدأتها بعدما أعلنت “أوبن إيه آي” الأسبوع الماضي أن وكيلًا ذاتي التشغيل مدعومًا بنماذجها للذكاء الاصطناعي نفذ عملية اختراق أدت إلى المساس بالبنية التحتية لشركة هاغينغ فيس الناشئة.
وخلال اختبارات الأمن السيبراني، أُبلغت نماذج “كلود” بأنها لا تملك إمكانية الوصول إلى الإنترنت، لكن سوء تفاهم مع أحد شركاء “أنثروبيك” المسؤولين عن التقييم أدى إلى بقاء الأنظمة متصلة بالإنترنت العام. وقالت الشركة إن ذلك أتاح وصولًا غير مصرح به إلى أنظمة ثلاث مؤسسات، من دون الكشف عن هويتها.
وقالت “أنثروبيك”: “اخترق كلود البنية التحتية للمؤسسات المتأثرة باستخدام تقنيات أساسية، مثل استغلال كلمات المرور الضعيفة ونقاط الوصول التي لا تتطلب مصادقة”.
قال جيفري لاديش، المدير التنفيذي لشركة باليسيد للأبحاث، المتخصصة في دراسة القدرات الهجومية لأنظمة الذكاء الاصطناعي، إنه يشتبه في أن العديد من كبرى شركات الذكاء الاصطناعي قد شهدت حوادث أخرى لم يتم اكتشافها أو لم يتم الإعلان عنها علنًا.
وأضاف: “الأمور ستزداد سوءًا مع ازدياد ذكاء النماذج. ستصبح أكثر قدرة على التحايل، وستصبح أفضل في الكذب”.
اختبارات الأمن السيبراني تخرج عن السيطرة
قالت “أنثروبيك” إن هذه الحوادث، التي وصفتها بأنها “فشل تشغيلي”، شملت ثلاثة نماذج منفصلة هي: Claude Opus 4.7 وClaude Mythos 5 ونموذجًا داخليًا مخصصًا للأبحاث. وتعود أقدم هذه الحالات إلى شهر أبريل، ووقعت داخل بيئات تقييم كانت تفتقر عمدًا إلى وسائل الحماية حتى تتمكن الشركة من تقييم القدرات الفعلية لنماذجها.
وكانت النماذج مكلفة بما يعرف بتحديات اقتناص الهدف (Capture-the-Flag)، وهي سيناريوهات افتراضية يتعين فيها العثور على معلومات مخفية داخل شبكات محاكاة.
وفي إحدى الحوادث، زُود نموذج Claude Opus 4.7 باسم شركة مستهدفة افتراضية، إلا أن هذا الاسم كان مطابقًا لاسم شركة حقيقية.
وبعد ذلك، تمكن النموذج من العثور على ثغرات واستغلالها للوصول إلى بيانات اعتماد وقاعدة بيانات تلك الشركة. وقالت “أنثروبيك” إن Opus 4.7 برر تصرفه باعتبار أن ما بدا وكأنه يخص العالم الحقيقي لا بد أنه جزء من المحاكاة التي أعدتها الشركة.
وفي حادثة منفصلة، شملت نموذج اختبار “أنثروبيك” الأحدث، والذي لم يُنشر للعموم، توقف النموذج عن هجومه بشكل مستقل بعد أن أدرك أن الهدف الذي وصل إليه حقيقي. وقالت الشركة إن هذا السلوك يجعلها “متفائلة بحذر” بشأن التقدم الذي أحرزته في جعل الذكاء الاصطناعي يتصرف بصورة مناسبة، لكنها أضافت: “سنحتاج إلى إجراء المزيد من الاختبارات قبل أن نتمكن من الثقة بهذا الاستنتاج”.
وقالت “أنثروبيك” إنها علقت جميع تقييمات الأمن السيبراني في 23 يوليو، وأخطرت المؤسسات المتضررة في 27 يوليو، مشيرة إلى أن اثنتين منها لم تكونا على علم بالنشاط الذي استهدفهما قبل أن تتواصل معهما الشركة. وأضافت أنها تواصل محاولات التواصل مع الشركة الثالثة.
ومن جانبه، قال مختبر الأمن السيبراني “Irregular”، وهو أحد شركاء “أنثروبيك” الخارجيين في التقييم، لوكالة رويترز إنه يجري تحقيقًا مستمرًا بشأن هذه الحوادث.
