العموم نيوز_:
قالت شركة أنثروبيك إن نماذجها استغلت ثغرات في مواقع إلكترونية على الإنترنت، بما في ذلك مواقع تديرها وكالات حكومية أميركية، وإنها ستوقف الوصول المباشر إلى الإنترنت في جميع اختبارات التقييم الداخلية لديها إلى أن يتأكد مختبر الذكاء الاصطناعي المتقدم من قدرته على مراقبة وكلائه للذكاء الاصطناعي والتحكم فيهم.
وتضمنت الوقائع، التي كشفت عنها الشركة في تدوينة، وكلاء ذكاء اصطناعي كُلّفوا بحل مشكلات، فلجأوا إلى البحث عن موارد على الإنترنت. وخلال ذلك، استغلوا ثغرات برمجية، ووصلوا إلى قواعد بيانات من دون دفع رسوم، واستخدموا خدمات اختصار الروابط لتمرير معلومات متجاوزين القيود، بل وأرسلوا بلاغًا كاذبًا عن جريمة قتل إلى شرطة فيلادلفيا.
وقالت “أنثروبيك” إنها اكتشفت هذه المشكلات الجديدة خلال مراجعة لأنشطة نماذجها بدأت في يوليو، وهو ما يُظهر عدم إدراك المختبر لسلوك برامجه في الوقت الفعلي، بحسب تقرير لموقع “تك كرانش” المتخصص في أخبار التكنولوجيا، اطلعت عليه “العربية Business”.
واللافت أن الشركة قالت إن تدريب المواءمة لم يكن كافيًا بعد للتعامل مع مهارات مثل البحث واستخدام الحاسوب، وهي مهارات أساسية في رؤيتها التي تفترض أن وكلاء الذكاء الاصطناعي سيستخدمهم كل متخصص يعتمد على الأدوات الرقمية.
وتشبه السلوكيات التي كشفت عنها “أنثروبيك” وقائع تتعلق بوكلاء تابعين لشركة أوبن إيه آي تعاونوا لاختراق مواقع إلكترونية مختلفة بحثًا عن معلومات، بما في ذلك مواقع تديرها الحكومة الأسترالية.
وسبق أن كشفت “أنثروبيك” أن نماذجها اخترقت أنظمة خارجية. وقال مختبر الذكاء الاصطناعي المتقدم إنه يعتبر الوقائع التي كشف عنها يوم الجمعة “أقل خطورة بكثير من منظور المواءمة والأمن” مقارنة بالوقائع التي أعلن عنها سابقًا.
ومع ذلك، قالت الشركة إنها “أوقفت الوصول المباشر إلى الإنترنت” في “جميع اختبارات التقييم الداخلية” لديها إلى أن تتأكد من قدرتها على مراقبة وكلائها والتحكم فيهم.
ولم يتضح المقصود من ذلك. وقالت سيدني فون آرك، مؤسسة منظمة نايتنغيل المتخصصة في سلامة الذكاء الاصطناعي، لموقع “تك كرانش” في مقابلة أُجريت قبل هذا الكشف، إن تطوير النماذج داخل مركز بيانات معزول عن الإنترنت المفتوح سيكون صعبًا للغاية على الباحثين، وسيعرقل تقدم النماذج التي تستفيد من الوصول إلى الإنترنت.
وقالت فون آرك: “عليك أن تحقق مواءمتها في مرحلة ما. فإذا أُطلقت أنظمة الذكاء الاصطناعي للاستخدام الفعلي ولم يُتح لها الوصول إلى الإنترنت مطلقًا، فلن تكون أداة مفيدة للغاية”.
وذكرت “أنثروبيك” أن هذا السلوك نتج عن عيوب في بيئات التدريب داخل المختبر، دفعت النماذج إلى الاعتقاد بأنها ستحصل على مكافآت إذا عثرت على ثغرات للتحايل على القيود أو تجنبتها، وهو سلوك يُعرف باسم “التحايل على المكافآت”.
العربية