العموم نيوز_:
كشفت شركة OpenAI أن أنظمة ذكاء اصطناعي تابعة لها نفذت هجوماً إلكترونياً على خدمة عبر الإنترنت قبل أشهر من الاختراق الذي استهدف شركة “هاجينج فيس” Hugging Face الناشئة في يوليو/تموز، في واقعة جديدة قد تعزز الدعوات إلى تشديد قواعد السلامة في قطاع الذكاء الاصطناعي.
وتعود الواقعة الأحدث إلى مايو/أيار، عندما استخدمت نماذج من OpenAI، كانت لا تزال قيد الاختبار، منصة “روبي جيمز” RubyGems، وهي خدمة إلكترونية تُستخدم لتوزيع مكتبات البرمجيات، لتنفيذ مهام وصفت بأنها غير ضارة، من بينها إعداد تقارير وملء جداول بيانات، بحسب مجلة “بوليتيكو”.
وبحسب مراجعة أجرتها الشركة، تمكنت الأنظمة من الوصول إلى الإنترنت رغم عدم منحها وصولاً كاملاً إليه، من خلال تجاوز الضوابط الموضوعة لمنعها من ذلك.
وأكد متحدث باسم OpenAI أن الأنظمة استخدمت منصة “روبي جيمز” للوصول إلى الإنترنت بهدف تنفيذ مهام غير ضارة والحصول على معلومات متاحة للعامة، مضيفاً أن الشركة ستواصل التحقيق في الواقعة ضمن مراجعة أوسع لأنشطة الوكلاء خلال مراحل التدريب والتقييم.
وكانت صحيفة “وول ستريت جورنال” أول من كشف تورط أنظمة OpenAI في حادثة “روبي جيمز”.
ولم ترد “روبي سنترال” Ruby Central، وهي مؤسسة غير ربحية تدير المنصة، على الفور على طلب للتعليق.
اختراق “هاجينج فيس” يرفع مستوى المخاوف
وتأتي الواقعة الجديدة بعد حادثة أكثر خطورة في يوليو/تموز، عندما تمكنت أنظمة OpenAI من الوصول إلى الإنترنت المفتوح أثناء وجودها في بيئة اختبار، وتنفيذ اختراق ذاتي لقاعدة بيانات شركة “هاجينج فيس”.
وقالت OpenAI لاحقاً إن حادثة “هاجينج فيس” كانت أخطر واقعة من هذا النوع رصدتها الشركة حتى الآن، وإنها لم تكن مجرد مشكلة أمنية، بل نتجت عن لجوء نماذجها إلى استراتيجيات غير متوافقة مع أهدافها الأصلية من أجل حل مهام صعبة.
وأثارت الواقعة قلقاً متزايداً بشأن قدرة أنظمة الذكاء الاصطناعي المتقدمة على اتخاذ خطوات لم يطلبها المستخدمون بصورة مباشرة، أو تجاوز القيود الموضوعة لها أثناء سعيها إلى تحقيق هدف محدد.
وأدت الحادثة إلى دعوات من مشرعين أميركيين لاعتماد نهج أكثر أماناً في تدريب الأنظمة ذات القدرات الذاتية، فيما دعا السيناتور بيرني ساندرز والنائب جريج كاسار إلى حظر ما يُعرف بـ”الذكاء الفائق”.
من جانبه، قلل الرئيس الأميركي دونالد ترمب وعدد قليل من الجمهوريين الآخرين هذا الأسبوع من أهمية المخاوف بشأن مخاطر كارثية محتملة، قائلين إن على الولايات المتحدة التغلب على الصين في سباق تطوير هذه التكنولوجيا.
جدل يتصاعد حول سلامة الذكاء الاصطناعي
وتأتي هذه التطورات في وقت يتصاعد فيه الجدل في الولايات المتحدة بشأن المخاطر المحتملة للأنظمة الأكثر تقدماً، فيما يرى بعض المسؤولين أن تشديد القيود قد يضر بالقدرة الأمريكية على منافسة الصين في تطوير الذكاء الاصطناعي.
وفي المقابل، حذر باحثون ومسؤولون سابقون في شركات الذكاء الاصطناعي الكبرى من أن السباق لتطوير أنظمة أكثر قوة واستقلالية قد يؤدي إلى مخاطر يصعب السيطرة عليها.
كما بدأت سلطات في ولايات أمريكية فتح تحقيقات بشأن الحوادث المرتبطة بالوكلاء ذاتيي التشغيل، فيما اتخذت ولاية كاليفورنيا خطوات لتعزيز سلامة روبوتات المحادثة الموجهة للأطفال، وتمهيد الطريق أمام عمليات تدقيق مستقلة لسلامة أنظمة الذكاء الاصطناعي.
ولم تكن OpenAI الشركة الوحيدة التي كشفت عن مثل هذه الحوادث؛ إذ أعلنت شركتا “أنثروبيك” Anthropic و”ميتا” أيضاً عن وقائع نفذت فيها برامج الذكاء الاصطناعي التابعة لهما هجمات إلكترونية بصورة ذاتية، فيما كشف باحثون الأسبوع الماضي عن واقعة أخرى قالوا إن برامج من OpenAI كانت وراءها.
وتعكس سلسلة الحوادث اتساع التحدي أمام شركات الذكاء الاصطناعي، التي باتت مطالبة بالموازنة بين تطوير أنظمة أكثر قدرة على العمل بصورة مستقلة، والحد من قدرتها على تجاوز الضوابط أو تنفيذ أنشطة غير مقصودة خارج نطاق المهام المحددة لها.