العموم نيوز – “تكمن الخطورة في احتمال قدرة AI على التخطيط والتنفيذ”
مع التسارع الهائل في قدرات الذكاء الاصطناعي، لم يعد السؤال ماذا يستطيع أن يفعل؟، السؤال الأخطر الآن: ماذا يمكن أن يحدث عندما يصبح قادراً على تطوير قدراته بنفسه، بينما لا تزال البشرية تبحث عن طريقة تضمن بقاء السيطرة في يدها.
الخطر ليس أن تصبح الآلة أذكى من الإنسان، الخطر أن تصبح أسرع منه، وأكثر استقلالاً منه، ثم نكتشف أن زر الإيقاف لم يعد كافياً! الذكاء الاصطناعي يقترب من أخطر اختبار في التاريخ، ماذا لو بدأت الآلة في تطوير نفسها؟ وهل حقاً فناء البشرية خلال سنوات؟.
يقول الدكتور محمد محسن رمضان، رئيس وحدة الذكاء الاصطناعي والأمن السيبراني بمركز العرب للأبحاث والدراسات في تصريحات خاصة لـ”العربية.نت/الحدث.نت”: لم يعد الحديث عن مخاطر الذكاء الاصطناعي مجرد سيناريو من أفلام الخيال العلمي، فخلال الفترة الأخيرة بدأت التحذيرات الأكثر إثارة للقلق تأتي من داخل صناعة الذكاء الاصطناعي نفسها، ومن باحثين يعملون في واحدة من أبرز الشركات العالمية المتخصصة في هذا المجال؛ إذ استقال الباحث جاكوب كوكسون من شركة Anthropic، مطور نموذج “كلود”، بعد أن عبّر عن مخاوفه من السباق المتسارع بين شركات التكنولوجيا لبناء أنظمة أكثر ذكاء واستقلالية وقادرة على المساهمة في تطوير نفسها.
بينما حذر باحث بارز آخر في مجال مواءمة الذكاء الاصطناعي من احتمال وقوع سيناريو بالغ الخطورة قد يؤدي – وفق تقديره الشخصي – إلى مقتل جميع البشر خلال العقد المقبل.
جرس إنذار بالغ الأهمية
ويتابع: هنا أؤكد أن هذه التقديرات ليست حقيقة علمية محسومة، ولا تعني أن فناء البشرية أصبح أمراً حتمياً، لكنها في الوقت نفسه جرس إنذار بالغ الأهمية، لأن مصدر القلق لم يعد مجرد مراقبين من خارج الصناعة، وإنما أصبح موجوداً داخل المختبرات التي تطور هذه التكنولوجيا نفسها.
في حين، يرى الدكتور محسن رمضان، أنه علينا أن نقرأ هذه التحذيرات بعيداً عن التهويل وبعيداً أيضاً عن الاستهانة، لأن القضية الحقيقية ليست أن الذكاء الاصطناعي”شرير” أو أنه يريد القضاء على البشر، وإنما تكمن الخطورة في احتمال الوصول إلى أنظمة تتمتع بدرجة عالية من الاستقلالية والقدرة على التخطيط والتنفيذ واستخدام الأدوات، وتحليل البرمجيات والمساهمة في تطوير أنظمة أخرى، بحيث تصبح سرعة قراراتها وتنفيذها أكبر من قدرة الإنسان على المراجعة والتدخل والتصحيح.
ويضيف قائلاً: “هنا يظهر مفهوم بالغ الأهمية في أبحاث الذكاء الاصطناعي، وهو التطوير أو التحسين الذاتي المتكرر Recursive Self-Improvement؛ أي أن يمتلك النظام القدرة على المساعدة في تحسين قدراته أو تطوير برمجياته أو تصميم أنظمة أكثر كفاءة، ثم استخدام القدرات الجديدة في دورة أخرى من التحسين، وأنا أؤكد هنا أن الأنظمة الحالية لم تصل إلى مرحلة التطوير الذاتي المستقل والمتكرر بالشكل الكامل الذي تفترضه بعض سيناريوهات الذكاء الخارق، لكن الاتجاه نحو زيادة استقلالية النماذج والوكلاء الذكيين وقدرتهم على البرمجة والتخطيط وتنفيذ المهام يفرض علينا أن نطرح أسئلة الأمن والسلامة الآن، وليس بعد أن تصبح هذه القدرات واقعاً واسع الانتشار”.
مستوى جديد من المخاطر
كما أضاف “من منظور الأمن السيبراني تحديداً، فإن السيناريو الأكثر إثارة للقلق ليس أن نرى روبوتاً يتمرد على الإنسان كما في أفلام السينما، وإنما أن نمتلك نظاماً شديد القدرة، لديه هدف غير منضبط، وصلاحيات واسعة، واتصال بأنظمة رقمية، وقدرة على اتخاذ قرارات وتنفيذها بسرعة هائلة، فتخيلوا فقط نظاماً يستطيع اكتشاف ثغرة أمنية، وتحليلها، وكتابة كود، واختبار النتائج، وتعديل استراتيجيته، ثم الانتقال إلى مهمة أخرى بصورة آلية؛ هنا نحن أمام مستوى جديد تماماً من المخاطر، لأن دورة الاكتشاف والتحليل والتنفيذ والتعديل يمكن أن تتم بسرعة تفوق بكثير قدرة الإنسان على التدخل”.
من ناحيته، يقول مساعد أول وزير الداخلية المصري لقطاع الإعلام والعلاقات الأسبق، اللواء أبو بكر عبد الكريم، في تصريحات خاصة لـ”العربية.نت”/”الحدث.نت”: الخطر ليس في ذكاء الآلة وحده، وإنما في اجتماع الذكاء مع الاستقلالية والصلاحيات والسرعة، فكلما زادت قدرة النظام على اتخاذ القرار، يجب أن تزيد قدرتنا على مراقبته وفهمه وإيقافه، وكلما منحناه صلاحيات أكبر، يجب أن نضع حوله طبقات أقوى من الحماية والرقابة.
الأمن القومي والاقتصاد
ويتابع: “لا يجوز أن نمنح نظاماً ذكياً مفتاحاً لمنظومة حساسة ثم نسأل بعد ذلك: هل نستطيع إيقافه؟ والأمر لا يتعلق فقط بالأمن السيبراني، وإنما يمتد إلى الأمن القومي والاقتصاد والبنية التحتية الحيوية والإعلام وسوق العمل والمعلومات وصناعة القرار؛ لأن الذكاء الاصطناعي أصبح قادراً على تحليل كميات ضخمة من البيانات، وإنتاج محتوى، وكتابة البرمجيات، وأتمتة عمليات معقدة، ولذلك فإن أي زيادة في استقلالية هذه الأنظمة يجب أن يقابلها تطور موازٍ في منظومات الحوكمة والاختبار والرقابة”.
هذا ويرى اللواء أبو بكر عبد الكريم، أن المعركة الحقيقية في السنوات المقبلة لن تكون بين الإنسان والآلة، وإنما بين قدرة الإنسان على تطوير التكنولوجيا وقدرته على ضبطها وإدارتها بشكل مسؤول، فنحن لا نحتاج إلى إيقاف التطور التكنولوجي، ولا يمكن أصلاً إيقافه، لكننا نحتاج إلى أن يكون الأمن جزءاً من تصميم الذكاء الاصطناعي وليس إضافة تأتي بعد وقوع المشكلة.
ويضيف قائلاً: علينا أن نعمل على اختبارات صارمة للنماذج المتقدمة قبل إطلاقها، واختبارات اختراق للأنظمة والوكلاء الذكيين، وتحديد الصلاحيات، ومراقبة السلوك، وفصل البيئات الحساسة، ووضع آليات إيقاف آمنة، وتطوير أبحاث AI Safety وAI Alignment، والأهم من ذلك ألا نسمح بأن تتحول المنافسة التجارية بين الشركات والدول إلى سباق يجعل سرعة إطلاق القدرات الجديدة أهم من سلامة استخدامها.
“لا تنبهر بقدرات الذكاء الاصطناعي”
ويتابع اللواء عبد الكريم: أوجه رسالة توعوية واضحة: لا تنبهر بقدرات الذكاء الاصطناعي وتنسى أن تسأل عن حدود هذه القدرات، فالتكنولوجيا القوية تحتاج إلى مستخدم واعٍ، والنظام الذكي يحتاج إلى رقابة ذكية، والقدرة الكبيرة يجب أن يقابلها دائماً مسؤولية أكبر، وأقول أيضاً: كلما أصبحت الآلة أكثر استقلالية، يجب أن يصبح الإنسان أكثر وعياً. وكلما أصبح الذكاء الاصطناعي أسرع، يجب أن تصبح آليات الرقابة أسرع. وكلما ازدادت قدرته، يجب أن تزداد قدرتنا على إيقافه عند الضرورة.
ويؤكد: لا أرى أن الرسالة الصحيحة هي أن نقول للناس: “الذكاء الاصطناعي سيقضي على البشرية”، فهذا استنتاج قطعي لا تدعمه الأدلة الحالية، وإنما الرسالة الصحيحة هي أن نقول: “لدينا تكنولوجيا تتطور بسرعة هائلة، ولذلك يجب أن نسبق مخاطرها بالعلم والحوكمة والأمن والمسؤولية”، وفي النهاية، التكنولوجيا لا تخيفني، فالذي يجب أن يخيفنا هو أن نطوّر قدرات تفوق قدرتنا على إدارتها وأخطر لحظة ليست عندما تصبح الآلة أذكى من الإنسان، وإنما عندما تصبح أسرع منه، وأكثر استقلالية منه، وأوسع صلاحية منه، بينما تكون آليات الرقابة أبطأ من قدرتها على التنفيذ، فالذكاء الاصطناعي يمكن أن يكون أعظم أداة لخدمة البشرية بشرط ألا نسمح للسباق نحو المستقبل بأن يسبق مسؤوليتنا تجاه المستقبل.