تحذير من حوادث كبرى للذكاء الاصطناعي خلال العامين المقبلين
تحذيرات رئيس ديب مايند
حذّر ديميس هاسابيس، رئيس مجلس إدارة شركة “ديب مايند” التابعة لـ”غوغل»، من احتمال تسبب أنظمة الذكاء الاصطناعي في حوادث أمنية كبرى خلال العامين المقبلين، ما لم تُتخذ إجراءات كافية لضمان سلامتها، وذلك بالتزامن مع التطور المتسارع في قدراتها.
وأوضح هاسابيس خلال مشاركته في مؤتمر للذكاء الاصطناعي في دبلن أن الحوادث الأمنية الأخيرة تمثل “طلقات تحذيرية مبكرة” من أنظمة لا تزال قدراتها محدودة نسبيًا، وحذّر من أن مخاطرها قد تتفاقم خلال العام المقبل أو العامين المقبلين إذا لم تكثف الشركات والحكومات جهودها لضمان أمن هذه التقنيات.
وأضاف أن مواجهة هذه المخاطر تتطلب تحركًا على مستوى قطاع الذكاء الاصطناعي ككل، إلى جانب إجراءات مستقلة تتخذها الشركات والحكومات لتعزيز سلامة الأنظمة والحد من احتمالات إساءة استخدامها.
دعوة الاتحاد الأوروبي لتعزيز الاختبارات
من جانبها، أكدت مسؤولة شؤون التكنولوجيا في الاتحاد الأوروبي، هينا فيركونين، ضرورة تخصيص شركات الذكاء الاصطناعي مزيدًا من الوقت والموارد لاختبار أنظمتها، بما يضمن بقاءها تحت السيطرة.
وقالت فيركونين لدى وصولها إلى قمة دبلن إن المنافسة العالمية الشديدة تدفع الشركات إلى تسريع تطوير نماذجها، في وقت لا تخصص فيه جميع الشركات موارد كافية لاختبار هذه الأنظمة بصورة فعالة.
وشددت على ضرورة قدرة الشركات على التحكم في أنظمتها، مشيرة إلى أن الاتحاد الأوروبي وجّه طلبات للحصول على معلومات إلى كبرى الشركات العاملة في مجال الذكاء الاصطناعي، للاستفسار عن إجراءات السلامة والأمن التي تطبقها.
تعزيز الإطار التنظيمي للذكاء الاصطناعي في الاتحاد الأوروبي
وتأتي هذه التحركات في ظل تعزيز الاتحاد الأوروبي إطاره التنظيمي للذكاء الاصطناعي، إذ اكتسبت المفوضية الأوروبية في أغسطس صلاحيات تنظيمية جديدة بموجب قانون الذكاء الاصطناعي، الذي يُعد من أشمل الأطر التشريعية العالمية لتنظيم هذه التكنولوجيا والحد من مخاطر استخدامها.
وأشار هاسابيس إلى إمكانية إخضاع نماذج الذكاء الاصطناعي الجديدة للاختبارات الأولية داخل “بيئات معزولة” غير متصلة بالشبكات، في خطوة تهدف إلى الحد من المخاطر، وذلك بعد تمكن نماذج طورتها شركات أخرى من تجاوز القيود المفروضة على البيئات المغلقة المستخدمة لتقييم قدراتها.
