ناديلا يدعو إلى إعادة تقييم الثقة في أنظمة الذكاء الاصطناعي المستقلة

تحذير من إعطاء الذكاء الاصطناعي صلاحيات واسعة

صرح ساتيا ناديلا، الرئيس التنفيذي لشركة مايكروسوفت، في منشور على منصة إكس بأن الثقة في نماذج الذكاء الاصطناعي المتقدمة تحتاج إلى إعادة نظر. حذر من منح هذه النماذج صلاحيات واسعة للوصول إلى البيانات الحساسة وتنفيذ إجراءات مهمة دون وجود ضوابط مستقلة ورقابة بشرية فعالة.

ضرورة إعادة النظر في آليات الموثوقية

أوضح ناديلا أن التطور المتسارع للذكاء الاصطناعي يستدعي التريث وإعادة تقييم آليات ضمان موثوقية النماذج. فرق بين البرمجيات التقليدية التي يمكن تتبع سلوكها إلى تعليمات محددة في الشيفرة، وبين نماذج الذكاء الاصطناعي التي يصعب ربط مخرجاتها مباشرة ببيانات التدريب أو الإعدادات التي أنتجتها.

مسؤولية مشتركة وفصل القدرات عن السلطة

أكد أن المسؤولية عن سلوك هذه الأنظمة لا تقتصر على مطوري النماذج، ولا ينبغي التعامل معها كصناديق سوداء تقبل نتائجها أو ترفضها دون فهم كافٍ لكيفية عملها والضوابط التي تحكمها. شدد على ضرورة الفصل بين توفير قدرات الذكاء الاصطناعي ومنحها سلطة اتخاذ القرار، عبر وضع طبقات مستقلة من الرقابة والإجراءات الأمنية التي تحدد ما يمكن للنماذج الوصول إليه وما يُسمح لها بتنفيذه.

إجراءات رقابية مستقلة وممارسات أمنية

اقترح الاستفادة من ممارسات الأمن المؤسسي، بما يشمل تحديد الهوية، وتقييد الصلاحيات، وتسجيل الأنشطة، ووضع حدود واضحة لاحتواء أي إخفاق محتمل. كما دعا إلى اعتماد اختبارات مستمرة للأنظمة تشمل محاكاة حالات الفشل والهجمات والتغيرات في السلوك، مع تسجيل الإجراءات المهمة في سجلات موثوقة يمكن للبشر مراجعتها.

استقلالية الصلاحيات والشفافية في الحوادث

طالب بإتاحة القدرة على إيقاف الأنظمة أو تعطيلها أمام أشخاص مخولين، والإفصاح السريع عن الحوادث التقنية ومشاركة أسباب الإخفاق والضوابط التي لم تنجح، بهدف منع تكرار الأخطاء وتعزيز معايير السلامة على مستوى القطاع. وحذر من أن الاعتماد فقط على شفافية آليات استدلال النماذج لا يكفي لضمان موثوقيتها، نظراً لصعوبة تفسير بعض المخرجات والتحقق منها بصورة مستقلة.

رؤية ناديلا للأنظمة الأكثر موثوقية

خلص إلى القول بأن نظام الذكاء الفائق الأكثر موثوقية ليس بالضرورة celui الذي يتيح أكبر قدر من الثقة بالنموذج، بل ذلك الذي يمكن تشغيله بأمان حتى مع الحد الأدنى من الاعتماد عليه، بفضل الضوابط المستقلة وآليات التحقق والمساءلة.

سياق الدعوة وتطور النقاش

تأتي هذه الدعوة وسط تصاعد النقاش بشأن مخاطر النماذج المتقدمة وقدرتها على تنفيذ مهام معقدة والوصول إلى الأنظمة الرقمية. زادت المخاوف بعد تقارير عن سلوكيات غير مقصودة لوكلاء ذكاء اصطناعي خلال الاختبارات، ما أعاد التركيز على مدى قدرتهم على الالتزام بالقيود الموضوعة لهم.

اتجاه النقاشات التنظيمية والتقنية

تتجه النقاشات التنظيمية والتقنية إلى تعزيز الاختبارات المستقلة، وتطوير آليات للتدخل عند ظهور مخاطر، وضمان بقاء القرارات الحساسة والصلاحيات الحرجة خاضعة لرقابة بشرية فعالة.

تحول في discourse حول الذكاء الاصطناعي

تعكس مواقف ناديلا تحولاً في النقاش حول الذكاء الاصطناعي من التركيز على سرعة التطوير والقدرات إلى كيفية إدارة هذه القدرات بأمان، بحيث لا يعتمد نجاح الأنظمة على دقة النموذج وحدها، بل أيضاً على جودة الحوكمة والأمن والرقابة المحيطة به.