داريو أمودي يدعو إلى إبطاء تطوير الذكاء الاصطناعي لضمان السلامة
دعوة إلى إبطاء التطوير
قال داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، إن وتيرة تقدم نماذج الذكاء الاصطناعي المتقدمة يجب أن تُبطأ حتى لا تتجاوز قدرة الباحثين والحكومات على وضع ضوابط فعّالة للسلامة والسيطرة على المخاطر.
خطة ثلاثية المحاور لتحقيق وتيرة آمنة
وأوضح أمودي أن إبطاء التطوير لا يعني وقف تدريب النماذج أو التخلي عن التقدم التقني، بل يهدف إلى إتاحة وقت إضافي لإجراءات السلامة والمواءمة لمجاراة سرعة تطور القدرات، ما يسمح بتقييم النماذج وتأمينها قبل وصولها إلى مستويات أكثر خطورة.
واقترح إبطاء وتيرة التطوير لمدة عام أو عامين قبل بلوغ النماذج مستويات حرجة من القدرات، معتبراً أن هذه الفترة تمنح الشركات والباحثين فرصة لتعزيز مواءمة النماذج مع أهداف البشر وقيمهم وإجراء اختبارات أكثر صرامة للقدرات والمخاطر.
كما طرح خطة من ثلاثة محاور تشمل: إتاحة وصول دائم لجهات تقييم مستقلة إلى أنظمة شركات الذكاء الاصطناعي الرائدة للتحقق من تطبيق معايير السلامة والإبلاغ عن المخاطر والحوادث؛ وتنسيق معايير السلامة بين الشركات والدول؛ وتعاون دولي أوسع بين الحكومات لوضع قواعد مشتركة للحد من المخاطر الأكثر خطورة.
دعم دولي وتأييد من قادة الصناعة
وتأتي دعوة أمودي وسط تصاعد المخاوف من تنامي قدرات نماذج الذكاء الاصطناعي في مجالات مثل الأمن السيبراني، وإمكانية وصولها مستقبلاً إلى مرحلة تستطيع فيها تطوير أنظمة أكثر تقدماً اعتماداً على نفسها، ما يُعرف بـ«التحسين الذاتي التكراري»، وهو سيناريو يخشى باحثون أن يجعل السيطرة البشرية على هذه الأنظمة أكثر صعوبة.
وأكد أمودي في المقابل أن الذكاء الاصطناعي يحمل إمكانات كبيرة لتحسين حياة البشر، بما في ذلك تسريع النمو الاقتصادي والمساعدة في تطوير علاجات للأمراض، لكنه شدد على ضرورة أن تواكب إجراءات السلامة سرعة التطور التقني، محذراً من أن استمرار السباق دون ضوابط كافية قد يزيد احتمالات وقوع أضرار جسيمة.
ولقيت الدعوة صدى لدى عدد من كبار مسؤولي قطاع التكنولوجيا، بينهم الرئيس التنفيذي لـ«أوبن إيه آي» سام ألتمان وإيلون ماسك، في وقت يتزايد فيه النقاش العالمي حول كيفية تحقيق التوازن بين تسريع الابتكار في الذكاء الاصطناعي ووضع ضوابط تضمن سلامة استخدامه.
