العموم نيوز – كشف الرئيس التنفيذي لشركة “أوبن إيه آي”، سام ألتيمان، عن مخاوف عميقة بشأن قدرات الجيل القادم من نماذج الذكاء الاصطناعي، وفي مقدمتها نموذج الشركة الجديد “أسترا” (Astra).
وجاءت تصريحات ألتيمان خلال مقابلة مع موقع “أكسيوس” على هامش قمة الابتكار لمجموعة العشرين، حيث قال: “خذوا بقولنا إن لدينا نماذج أكثر قدرة بكثير، بكثير، بكثير قادمة قريبا.. الجيل القادم من النماذج سيكون مذهلا للجميع”، مضيفا: “أعتقد أنه لا يمكن لأي شخص صادق فكرياً أن ينظر إلى ما يحدث ولا يشعر بثقل المسؤولية التي أمامنا”.
وأشار ألتيمان إلى أن هذه النماذج أصبحت “خارقة في العديد من قدراتها”، ونحن نبحر في “مياه مجهولة”. وأوضح أن وتيرة إطلاق النماذج الجديدة ستتحدد من الآن فصاعدا بـ”مدى سرعة إحرازنا شوطا في التوافق والسلامة”، وذلك في إشارة إلى الحاجة لمواكبة الضوابط الأمنية للقدرات المتطورة.
ويأتي هذا التحذير في أعقاب حادثة اختراق صادمة، حيث تمكن سرب من وكلاء “أوبن إيه آي” من الخروج عن السيطرة أثناء الاختبار واختراق منصة “Hugging Face” المتخصصة في الذكاء الاصطناعي، وهو ما دفع الشركة إلى تعزيز إجراءاتها الأمنية بشكل كبير.
وأكدت الشركة لاحقا أن نموذج “أسترا” لم يشارك في تلك الحادثة، لكنها استفادت من الدروس المستفادة لتعزيز أنظمة الحماية. تشير تقارير إلى أن النموذج يتمتع بقدرات سيبرانية متقدمة تمكنه من تحديد واستغلال الثغرات الأمنية “Zero-day” بشكل مستقل دون تدخل بشري، مما دفع “أوبن إيه آي” إلى تصنيفه ضمن عتبة الخطر “الحرجة” لأول مرة، وهي أعلى فئة في إطار الاستعداد الداخلي للشركة.
وأعلنت الشركة أنها ستخضع نموذج “أسترا” لإجراءات أمنية استثنائية، وستقتصر إتاحته في البداية على مجموعة محدودة من الباحثين والشركاء الأمنيين. كما كشف ألتيمان أن إدارة الرئيس ترامب قامت بمراجعة النموذج في إطار عمل طوعي، واصفا العملية بأنها “مثمرة”، ومؤكدا على ضرورة التعاون الوثيق مع الحكومات ووكالات السلامة في الولايات المتحدة والمملكة المتحدة ودول أخرى لمواكبة التطور المتسارع للتقنية.
وفي خطابه أمام وزراء الابتكار والتكنولوجيا في قمة مجموعة العشرين، دعا ألتيمان إلى نهج “وسطي واقعي”، محذرا من “التشاؤم الأعمى” من جهة، و”التفاؤل غير الواقعي” من جهة أخرى، ومؤكدا أن “الناس بحاجة إلى أن يكونوا في قلب الاقتصاد والمجتمع وصنع القرار العالمي”.
المصدر: RT