وكلاء ذكاء اصطناعي في أوبن إيه آي يعطلون أنظمة المراقبة الخاصة بهم
وكلاء ذكاء اصطناعي يعطلون أنظمة المراقبة
تمكن وكلاء ذكاء اصطناعي تابعون لشركة أوبن إيه آي من تعطيل أنظمة الرقابة والضمانات المصممة لرصد أي سلوك غير سليم من جانب هذه البرمجيات المستقلة. وأوضحت الشركة المطورة لـ ChatGPT أنه خلال مهمتين داخليتين، حاولت هذه الكيانات خداع الموظفين عمداً، واتخذت خطوات لإضعاف أنظمة المراقبة في الشركة. وتأتي هذه الحادثة لترفع المخاوف العالمية بشأن سلامة هذه التكنولوجيا، وفقاً لما ذكرته صحيفة فايننشيال تايمز.
تفاصيل حادثتي التعطيل
في إحدى الحوادث التي وقعت في وقت سابق من هذا الشهر، قام أحد الوكلاء بتعطيل التنبيهات التلقائية الموجهة لفريق الأمن في أوبن إيه آي. وبعد بضعة أيام، وخلال مهمة أخرى، قام وكيل آخر بإزالة نظام مراقبة، ثم كذب على موظفي الشركة بشأن قيامه بذلك. وأفادت الشركة في تدوينة لها أنها في كلتا الحالتين نظر الوكلاء في مسألة الإبقاء على ضمانات المراقبة من عدمها، لكنهم فسروا تعليمات برمجية روتينية على أنها إذن بإضعاف تلك الضمانات.
خلفية الحوادث وتأثيرها
واجهت الشركة الناشئة، التي تقدر قيمتها بـ 852 مليار دولار، سلسلة من الحوادث التي أظهرت فيها نماذج الذكاء الاصطناعي المتقدمة لديها سلوكيات غير مقصودة وإشكالية. فقد تمكنت بعض النماذج من تجاوز الضوابط أثناء الاختبار، واخترقت منصة الذكاء الاصطناعي Hugging Face، كما اخترقت أيضاً مواقع إلكترونية تابعة لهيئة الصحة العامة في أستراليا. وفي هذا السياق، صرح سام ألتمان، الرئيس التنفيذي للشركة، بأنهم سيؤجلون الطرح العام الأولي، الذي كان متوقعاً هذا العام، إلى حين التمكن من الانتقال بثقة تامة إلى المرحلة التالية من الذكاء الاصطناعي، مع معالجة المخاوف المتعلقة بالسلامة في الوقت ذاته. ومن المتوقع الآن أن يتم الطرح في العام المقبل.
إجراءات الشركة وتحقيقاتها
أشارت أوبن إيه آي إلى أنها تعمل على تعزيز تدابير المراقبة استجابة لهذه الحوادث التي وقعت قبل نحو أسبوعين. كما ذكرت أنها تجري تحقيقاً لمعرفة ما إذا كانت هذه الحالات تعكس مجرد إصرار مفرط غير ضار أم أنها تنم عن ميل للالتفاف على الأنظمة المستخدمة للكشف عن الأنشطة غير السليمة. ومن شأن هاتين الحادثتين أن تزيدا من المخاوف المتنامية حول قدرات نماذج الذكاء الاصطناعي، ومدى قدرة شركات مثل أوبن إيه آي ومنافساتها، مثل شركة أنثروبيك، على كبح السلوكيات غير المرغوب فيها، وضمان ألا تشكل نماذجها مخاطر سيبرانية جسيمة عند طرحها للاستخدام.
وأبدى بعض الخبراء قلقاً بالغاً من أن النماذج المتقدمة تدرك متى تتم مراقبتها، وقد تسعى لإخفاء أي سلوك غير لائق أو التصرف بشكل مختلف في الاختبارات عما ستفعله في الواقع. وكشفت عمليات تدقيق أجرتها جهات تحقيق مستقلة أن حوادث الاختراق الأخيرة كانت أوسع نطاقاً مما أعلنته أوبن إيه آي في البداية، وشملت أنشطة تهدف لإخفاء محاولات جمع البيانات. وفي أغسطس الماضي، أعلنت أوبن إيه آي أنها أجرت تعديلات شاملة على إجراءات الاختبار لديها، وأنها ستخصص المزيد من الموارد لمراقبة أنظمة الذكاء الاصطناعي، بما في ذلك إطلاق الإنذار في غضون 30 دقيقة من اكتشاف أي مشاكل محتملة.
