العموم نيوز _ أبلغت شركة “أوبن إيه آي” عضوين ديمقراطيين في مجلس النواب الأميركي بأن مهندسيها يعملون على تطوير قدرات إيقاف تشغيل تلقائية لأنظمة الذكاء الاصطناعي، وجاء ذلك وفقاً لرسالة اطلعت عليها وكالة “رويترز”، عقب أسابيع من إعلان الشركة عن تمكن إحدى أدواتها من الخروج من بيئتها الرقمية المعزولة خلال اختبار أمني.
وتعرضت ممارسات السلامة في الشركة المطورة لروبوت الدردشة “شات جي بي تي” لتدقيق مكثف، منذ اعترافها بأن أحد وكلائها الذكيين خرج عن السيطرة واختراق منصة “هاغينغ فيس”. وتجدر الإشارة إلى أن وكلاء الذكاء الاصطناعي هي برامج تعمل بأقل قدر ممكن من الإشراف البشري.
وفي شهر أغسطس الماضي، وجّه مشرعون، من ضمنهم عضوا مجلس النواب الديمقراطيان غريغ كاسار ودوريس ماتسوي، رسائل إلى الشركة للاستفسار عن الحادث وإجراءات الحماية المتبعة.
وفي ردها الرسمي، أكدت “أوبن إيه آي” أنها ستراقب بدقة الإجراءات التي تتخذها أنظمة الذكاء الاصطناعي لتنفيذ مهامها، بما يشمل الأدوات الرقمية المستخدمة والخطوات المتخذة. كما أشارت إلى تقييد وصول نماذج الذكاء الاصطناعي إلى شبكة الإنترنت خلال اختبارات السلامة، بعد أن أتاح الاتصال بالإنترنت للوكيل السابق اختراق منصة “هاغينغ فيس”.
من جانبه، انتقد النائب غريغ كاسار عدم تقديم الشركة سجلاً يوثق عملية الاختراق، معبراً في رسالة وجهها للشركة عن قلقه البالغ إزاء التعامل مع حوادث الأمن السيبراني.
يُذكر أن هذه التطورات دفعت المشرعين إلى اقتراح مشروع قانون يحمل اسم “قانون زر إيقاف الذكاء الاصطناعي” (AI Kill Switch Act)، والذي يمنح المسؤولين الأميركيين صلاحية إلزام شركات الذكاء الاصطناعي بإيقاف النماذج التي تشكل تهديداً مباشراً على حياة البشر أو الاقتصاد، في الوقت الذي لا يزال فيه المشروع قيد النظر في مجلس النواب.