سدايا تعلن إطاراً وطنياً لمواجهة مخاطر الذكاء الاصطناعي

دوافع إطلاق الإطار الوطني لمخاطر الذكاء الاصطناعي

أطلقت الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا) إطاراً وطنياً يهدف إلى إدارة المخاطر المرتبطة بتقنيات الذكاء الاصطناعي، وذلك في وقت يشهد فيه العالم توسعاً متسارعاً في اعتماد هذه التقنيات لتطوير الأعمال والخدمات. وتأتي هذه الخطوة نظراً لما قد تسببه أنظمة الذكاء الاصطناعي من مخاطر تختلف جوهرياً عن تلك التي تنتج عن الأنظمة التقليدية، فضلاً عن تأثيراتها المحتملة على الأفراد والمؤسسات والاقتصاد الوطني.

طبيعة المخاطر المتغيرة للذكاء الاصطناعي

أوضحت سدايا أن مخاطر الذكاء الاصطناعي تتمتع بخصائص فريدة مقارنة بمخاطر البرمجيات التقليدية، حيث يمكن أن تظهر بطرق غير متوقعة أثناء التشغيل، وقد يتغير أداء الأنظمة مع مرور الوقت. كما أشارت إلى صعوبة تفسير سلوك هذه الأنظمة وإعادة إنتاج نتائجها، مما يجعل عملية حصر المخاطر وتقييمها أكثر تعقيداً، ويتطلب تبني منهجية شاملة لإدارتها.

منهجية إدارة المخاطر ومبادئها الأساسية

تعتمد منهجية إدارة المخاطر على دورة حياة متكاملة تتكون من أربع مراحل مترابطة: تبدأ بتحديد السياق والنطاق، ثم تحديد المخاطر وتقييمها ومعالجتها، وانتهاءً بالمتابعة والمراجعة المستمرة. ويتم احتساب مستوى الخطر عبر مصفوفة تربط بين احتمالية حدوثه وحجم أثره، مما يوحد آلية التقييم بين الجهات ويسهل المقارنة وتحديد أولويات المعالجة.

وأشارت الهيئة إلى أن الإطار يستند إلى سبعة مبادئ رئيسية تشمل: النزاهة والإنصاف، والخصوصية والأمن، والإنسانية، والموثوقية والسلامة، والشفافية وقابلية التفسير، والمساءلة والمسؤولية، والمنافع الاجتماعية والبيئية. كما يصنف الإطار مخاطر الذكاء الاصطناعي إلى سبعة أنواع رئيسية تهدف إلى ضمان شمولية التحديد وعدم إغفال أي فئة جوهرية من المخاطر.

نموذج تطبيقي ودور سدايا في تعزيز الابتكار

تضمن الإطار سيناريو تطبيقياً يحاكي استخدام جهة حكومية لأحد النماذج في إعداد التقارير الداخلية، حيث يستعرض الخطوات العملية لتحديد المخاطر المرتبطة بهذا النموذج وتقييمها ومعالجتها ومتابعتها. ويوفر هذا السيناريو للجهات نموذجاً عملياً قابلاً للتطبيق بغض النظر عن قطاعها أو مرحلة نضجها الرقمي.

ويأتي هذا الإطار في إطار جهود سدايا لترسيخ الاستخدام المسؤول والآمن لتقنيات الذكاء الاصطناعي، وتمكين الجهات الوطنية من تبنيها. وتؤدي الهيئة دورها بوصفها المرجع الوطني للبيانات والذكاء الاصطناعي في المملكة، مما يسهم في تعزيز منظومة الابتكار الرقمي بما يواكب مستهدفات رؤية المملكة 2030. ويمكن للراغبين الاطلاع على الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي عبر الرابط المخصص.