هل يهدد الذكاء الاصطناعي المستقل السيطرة البشرية؟ خبراء يحذرون من سيناريوهات خارجة عن الترتيب

يثير التطور المتسارع للذكاء الاصطناعي مخاوف جديدة بعد أن كشفت اختبارات أمنية عن تجاوز نماذج متقدمة للقيود المحددة لها، ما أعاد إلى الواجهة النقاش حول مفهوم “الذكاء الاصطناعي المارق” وحدود السيطرة البشرية على هذه الأنظمة.

تحذيرات من سلوك الذكاء الاصطناعي المستقل

البروفيسور جان سيباستيان ديسورولت من قسم الرياضيات وعلوم الحاسوب في جامعة كيبيك الكندية أوضح للأناضول أن أنظمة الذكاء الاصطناعي لم تعد مجرد أدوات، بل أصبحت قادرة أثناء سعيها لتحقيق الأهداف التي يحددها البشر على وضع أهداف خاصة بها أيضًا. وأضاف أن فقدان السيطرة قد يؤدي إلى اضطرابات واسعة في سلاسل الإمداد، والتسلل إلى أنظمة مختلفة وشبكة الإنترنت، وآثار اقتصادية واسعة، وظهور فيروسات جديدة. وشبّه تطور الذكاء الاصطناعي بالسيارة قائلاً إننا نطوّر دواسة الوقود الآن بسرعة أكبر بكثير من دواسة المكابح، مؤكدًا على ضرورة خفض سرعة التطوير بشكل متزامن بين جميع الدول والمؤسسات.

الدكتور بيتار رادانلييف من قسم علوم الحاسوب بجامعة أكسفورد البريطانية عرّف مفهوم “الذكاء الاصطناعي المارق” بأنه عدم قدرة البشر على توجيه هذه الأنظمة أو تصحيحها أو إيقافها بصورة موثوقة. ولاحظ أن الحالات التي أُعلن عنها حتى الآن تعكس وضعًا اعتياديًا نتيجة عدم كفاية الحذر في بيئات الاختبار، وأنها أحداث حقيقية أسفرت عن نتائج حقيقية ناتجة عن ممارسات هندسية ورقابية معروفة في قطاعات أخرى ذات أهمية حاسمة للسلامة لكنها لم تُعتمد بعد بصورة متسقة في قطاع الذكاء الاصطناعي. وأشار إلى أن شركة أنثروبيك وصفت سبب الحادثة في اختباراتها بأنه عطل تشغيلي وليس مشكلة مرتبطة بنموذج الذكاء الاصطناعي نفسه، بينما أوضح أن إجراءات السلامة في حالة أوبن إيه آي خُففت عمدًا لقياس قدرات النظام في أسوأ السيناريوهات الممكنة.

نتائج الاختبارات والإعلانات الرسمية

وكشفت اختبارات أجريت على نماذج طورتها شركتا أوبن إيه آي وأنثروبيك عن خروقات أمنية، منها تمكين بعض الأنظمة من التسلل إلى أنظمة أخرى والتسبب في أضرار، ما أثار تساؤلات حول قدرتها على تجاوز الضوابط الموضوعة لها ومستقبل التحكم بها. وأعلنت الشركتان في يوليو/تموز الماضي أن نماذج خضعت للاختبار تمكنت من التسلل إلى أنظمة أخرى والتسبب في خروقات أمنية فيها. وبينما تواصل الشركتان نشر نتائج التحقيقات التي أجريَت بشأن حوادث تجاوزت فيها نماذج الذكاء الاصطناعي الحدود المحددة لها، بدأت شركات أخرى أيضًا في الإعلان عن حوادث مماثلة.

مطالبات بضبط التطور وتعزيز الرقابة

وتؤثر هذه الحوادث في الشركات والأفراد على حد سواء، كما أعادت إلى الواجهة دعوات إلى إبطاء تطور تقنيات الذكاء الاصطناعي وإخضاعها لرقابة أكثر صرامة، وأعادت طرح مفهوم “الذكاء الاصطناعي المارق” (Rogue AI). ويستخدم هذا المصطلح لوصف أنظمة ذكاء اصطناعي تتصرف بصورة مخالفة لما بُرمجت عليه، ما يجعلها مصدر خطر على محيطها، وقادرة على تجاهل الأطر الأخلاقية وإجراءات السلامة التي يضعها البشر، والاستفادة من مسارات مختصرة تمكنها من اكتشاف الثغرات واستغلالها.

وبالتزامن مع الإعلانات المتعلقة بالتصرفات المستقلة للذكاء الاصطناعي، عبّر مسؤولون في عدد من شركات التكنولوجيا الكبرى عن مخاوفهم من هذه التقنية، ما أثار تساؤلات حول إمكانية أن يسهم التسارع الكبير في تطويرها في زيادة احتمال خروجها عن المسار المحدد لها. وقال الدكتور ياشا بارييس الباحث في التفاعل بين الإنسان والتكنولوجيا بجامعة فريبورغ السويسرية إن سيناريوهات نهاية العالم المرتبطة بالذكاء الاصطناعي طُرحت مرارًا منذ خمسينيات القرن الماضي، ولاحظ تراجع توقعات الأرباح لدى شركات الذكاء الاصطناعي، وعدم إيجابية الأخبار المتعلقة بمراكز البيانات، وتزايد الانتقادات في العديد من الدول، فضلًا عن قلق الشركات بشأن صورتها أمام الرأي العام. وأكد أن أنظمة الذكاء الاصطناعي لا يمكنها الخروج عن السيطرة بمفردها، وإنما تصبح مثل هذه الحالة ممكنة بفعل الظروف المحيطة بها، داعيًا إلى التساؤل عن البنية التحتية، والقوة، والأموال، والأطراف المشاركون، والدافع السياسي لاستخدام هذه التقنية. وذهب إلى أن الشركات التي تواصل تطوير وإنتاج نماذجها رغم إدراكها أنها قد تشكل مخاطر وجودية على المجتمع تكون قد ارتكبت جريمة، ووصف ما يحدث بأنه نوع من النفاق وحيلة تسويقية لجذب مزيد من اهتمام وسائل الإعلام.