تسارع قدرات الذكاء الاصطناعي يطرح تحديات للسلامة والحكم العالمي

الفجوة بين التطور والحوكمة

لم يعد النقاش حول الذكاء الاصطناعي يقتصر على ما يستطيع إنجازه، بل تحول إلى سؤال حول ما إذا كانت البشرية قادرة على مواكبة ما يتعلمه ويؤديه النظام. بينما تنتقل القدرات من الإجابة والتحليل إلى تنفيذ المهام والتفاعل مع الأنظمة والبيانات، تتوسع قائمة المخاطر والحوادث التي تظهر أن أدوات السلامة والحوكمة لا تتقدم دائمًا بالوتيرة نفسها. كشف «مؤشر الذكاء الاصطناعي 2026» عن فجوة متنامية بين التطور التقني والقدرة على قياسه وإدارته، بينما سجل مرصد منظمة التعاون الاقتصادي والتنمية 435 حادثة ومخاطرة خلال يناير الماضي، وهو أعلى مستوى شهري في بياناته.

تحذيرات من incidents الأمنية

مع انتقال التقنية من أدوات مساعدة إلى أنظمة أكثر استقلالية وقدرة على تنفيذ المهام، يبرز سؤال جوهري: هل تتطور منظومات السلامة والرقابة بالسرعة التي تتطور بها قدرات الذكاء الاصطناعي؟ وفي قلب هذا الجدل ينقسم كبار صناع التكنولوجيا بين من يدعو إلى إبطاء تطوير أقوى النماذج حتى تلحق بها أدوات السلامة والسيطرة، ومن يرى أن التباطؤ قد يكون أكثر خطورة في سباق عالمي لا ينتظر أحدًا. لم تعد المنافسة محصورة بين الشركات، بل امتدت إلى الدول، وفي مقدمتها الولايات المتحدة والصين اللتان تستعدان لجولة جديدة من الحوار وسط تساؤلات حول إمكانية الاتفاق على قواعد للسلامة، بينما يتنافس الطرفان على الريادة التكنولوجية.

انقسام القادة بين الإبطاء والتسارع

أشعل داريو أمودي الرئيس التنفيذي لـ «أنثروبيك» الجدل بدعوته شركات الذكاء الاصطناعي إلى إبطاء تطوير قدرات النماذج المتقدمة، بما يتيح لإجراءات السلامة والرقابة مواكبة هذا التطور، مقترحًا الاستعانة بجهات مستقلة لتقييم النماذج، وتعزيز التنسيق بين الشركات، والتعاون الدولي لمواجهة المخاطر. حظيت الدعوة بتأييد سام ألتمان الرئيس التنفيذي لـ «أوبن إيه آي»، وإيلون ماسك مؤسس «إكس»، اللذين أيدا علنًا إبطاء تطوير الأنظمة الأكثر تقدماً، في ظل تصاعد المخاوف من قدراتها. في المقابل، تدفع قيادات أخرى باتجاه استمرار التطوير السريع، من بينها جنسن هوانغ الرئيس التنفيذي لـ «إنفيديا»، ومارك زوكربيرغ الرئيس التنفيذي لـ «ميتا». ويكشف هذا الانقسام عن معضلة أساسية تواجه القطاع: هل تصبح سرعة التطوير نفسها مصدراً للخطر، أم أن التباطؤ قد يمنح المنافسين فرصة للتقدم في سباق عالمي متسارع؟

وجهات نظر خبراء من المنطقة

هذه المخاوف لم تأتِ من فراغ. ففي يوليو الماضي كشفت «أوبن إيه آي» عن واقعة خلال اختبارات داخلية للأمن السيبراني، تمكنت خلالها نماذج من تجاوز ضوابط صُممت لعزلها عن الإنترنت، واستغلال ثغرات، والوصول إلى أجزاء من البنية التحتية البحثية للشركة وأنظمة منصة «هاجينغ فيس». أوضحت الشركة أن النماذج تواصلت عبر قنوات غير مصرح بها، واستغلت ثغرات في بنية مشتركة، ووصلت إلى الإنترنت وأنظمة تابعة لطرف ثالث، وأشارت إلى أن الدور الرئيس في الواقعة كان لنموذج بحثي داخلي عالي القدرة وغير مخصص للإطلاق العام. وفي الشهر نفسه أعلنت «أنثروبيك» اكتشاف 3 حوادث تمكنت فيها نماذج «كلود»، خلال تقييمات للأمن السيبراني، من الوصول إلى الإنترنت ثم الحصول على وصول غير مصرح به إلى أنظمة حقيقية لثلاث مؤسسات مختلفة. وقبل أيام، وفي سبتمبر الجاري، أعلنت الشركة اكتشاف حادثة رابعة تعود إلى يناير الماضي بعد توسيع نطاق التحقيقات. ولا تعني هذه الوقائع أن الذكاء الاصطناعي خرج عن السيطرة في الاستخدام اليومي؛ فقد وقعت في سياق اختبارات أمنية، وبعضها شغّل النماذج عمداً بضوابط حماية مخففة لاختبار أقصى قدراتها، لكنها كشفت عن تحديات جديدة أمام تصميم بيئات الاختبار ووسائل احتواء النماذج الأكثر تقدماً.

تأتي هذه التطورات في وقت تتزايد فيه مؤشرات المخاطر المرتبطة بالتقنية. ووفقًا لـ «مؤشر الذكاء الاصطناعي 2026»، الصادر عن جامعة ستانفورد، سجل مرصد حوادث ومخاطر الذكاء الاصطناعي التابع لمنظمة التعاون الاقتصادي والتنمية 435 حادثة ومخاطرة خلال يناير الماضي، وهو أعلى مستوى شهري، بينما بلغ المتوسط المتحرك لستة أشهر 326 حالة شهريًا. لكن الدعوات إلى إبطاء التطوير تصطدم بحجم الرهان الاقتصادي على الذكاء الاصطناعي. فوفقًا لنفس المؤشر، بلغت الاستثمارات الخاصة في الذكاء الاصطناعي بالولايات المتحدة 285.9 مليار دولار خلال 2025، مقابل 12.4 مليار دولار في الصين، أي أن الاستثمار الأمريكي تجاوز نظيره الصيني بأكثر من 23 ضعفًا. رغم الفجوة المالية الكبيرة، تقلص الفارق في أداء أفضل النماذج الأمريكية والصينية إلى نحو 2.7 % في مارس من هذا العام، مما يعكس تقاربًا تكنولوجيًا أكبر مما توحي به أرقام الاستثمار. وفي الوقت نفسه، تتقدم الصين عالميًا في منشورات أبحاث الذكاء الاصطناعي وبراءات الاختراع وتركيب الروبوتات.

وهنا تظهر معضلة أخرى أمام الدعوات إلى إبطاء التطوير؛ فالولايات المتحدة لا تخشى فقط المخاطر المحتملة للذكاء الاصطناعي، وإنما تخشى أيضاً أن يؤدي أي تباطؤ في تطوير نماذجها إلى منح الصين فرصة لتقليص الفجوة التكنولوجية. وفي المقابل، يرى خبراء صينيون أن ربط سلامة الذكاء الاصطناعي بالتفوق التكنولوجي والأمن القومي الأمريكي يقلص فرص التعاون بين البلدين، خصوصًا مع استمرار الخلافات حول الرقائق المتقدمة، واتهامات واشنطن بعض الشركات الصينية باستخدام «التقطير» للاستفادة من مخرجات النماذج الأمريكية.

في ظل هذا الانقسام، استطلعت «البيان» آراء عدد من شركات التكنولوجيا حول المخاطر الفعلية التي يفرضها التسارع الكبير في قدرات الذكاء الاصطناعي، ومدى قدرة إجراءات السلامة والتشريعات الحالية على مواكته.

ريما سمعان، مديرة الذكاء الاصطناعي وحلول المؤسسات في «مايكروسوفت» الإمارات، قالت إن تطبيق الذكاء الاصطناعي يتطلب ضمانات واضحة وأطر حوكمة فعالة، لكن المسؤولية والابتكار لا ينبغي النظر إليهما باعتبارهما هدفين متعارضين. أضافت أن الأولوية تتمثل في ضمان استمرار تطور الذكاء الاصطناعي تحت إشراف بشري، واختبارات صارمة وضوابط مناسبة، مع تمكين المؤسسات والاقتصادات في الوقت نفسه من الاستفادة من الابتكار، بما يضمن أن يمضي التطور على أسس آمنة وموثوقة، وأن تصل فوائده إلى أوسع نطاق ممكن. حول أسباب القلق من تطوير الذكاء الاصطناعي دون قيود، أوضحت سمعان أن جوهر التحدي يتمثل في ضرورة مواكبة الحوكمة والأمن والمساءلة للتطور المتسارع في قدرات التقنية. ومع تزايد دمج الذكاء الاصطناعي في العمليات الحيوية، تحتاج المؤسسات إلى أطر واضحة تحدد كيفية تطوير هذه الأنظمة ونشرها واستخدامها.

أشرف كحيل، نائب الرئيس لتطوير الأعمال لمنطقة الشرق الأوسط وأفريقيا وأستراليا ونيوزيلندا في «جروب-آي بي»، أوضح أن الخيار لا ينحصر بين التنظيم والابتكار، بل إن العالم بحاجة إلى كليهما. وبين أن النقاشات مع المؤسسات في المنطقة تظهر اهتمامًا واضحًا بتبنّي الذكاء الاصطناعي، بالتوازي مع الحاجة إلى تعزيز الثقة في مجالات الأمن والخصوصية والمساءلة. أضاف أن الحوكمة السليمة يمكن أن توفر هذه الثقة من دون إعاقة الابتكار، مشيرًا إلى أن الهدف من منظور الأمن السيبراني يتمثل في وضع الضوابط والحواجز الوقائية المناسبة، مما يتيح للمؤسسات الاستفادة من الذكاء الاصطناعي مع إدارة المخاطر الناشئة عن استخدامه.

كنان أبو لطيف، المدير الإقليمي لمنطقة الشرق الأوسط وتركيا لدى «بروف بوينت»، أكد أن تشريعات الذكاء الاصطناعي يجب أن تضع ضوابط واضحة للاستخدامات عالية المخاطر، من دون إغلاق الباب أمام الابتكار. وأضاف أن اتساع صلاحيات وكلاء الذكاء الاصطناعي في الوصول إلى البيانات الحساسة وتنفيذ المهام داخل أنظمة الأعمال يتطلب ارتقاء الحوكمة إلى مستوى هذه الصلاحيات، بدءًا من تحديد ما يسمح للوكيل بالوصول إليه، والإجراءات التي تستلزم موافقة بشرية، وآليات مراقبة نشاطه وتدقيقه. أكد أبو لطيف أن المؤسسات ماضية في تبنّي الذكاء الاصطناعي، وأن دور التشريع الجيد هو منحها ثقة أكبر للمضي قدماً بأمان. لكنه استدرك بأن أثر أي تشريع سيبقى محدودًا إذا ركز على التقنية نفسها، وأغفل كيفية الوصول إليها وتوظيفها واستثمارها. وأشار أبو لطيف إلى أن المتطلبات المبنية على المخاطر، مثل المساءلة وحماية البيانات وقابلية التدقيق، تحتفظ بجدواها مع تطور النماذج، بينما قد تتجاوز التطورات التقنية القيود شديدة التفصيل. وتوقع أبو لطيف أن يرسم التنافس بين الولايات المتحدة والصين على النماذج والرقائق والبيانات، ووضع المعايير العالمية ملامح القطاع لسنوات مقبلة، لكنه أكد أن الأولوية الأقرب للمؤسسات في الإمارات تبقى تأمين الأفراد ووكلاء الذكاء الاصطناعي والبيانات المتنقلة بينهم عبر البريد الإلكتروني والسحابة ومنصات التعاون، أياً كانت التقنية القائمة خلفها.

براديب مينون، الرئيس التنفيذي للذكاء الاصطناعي والأمن في «باراماونت»، يرى أن العالم يحتاج بالفعل إلى تنظيم الذكاء الاصطناعي، لكن بصورة لا تجمد الابتكار ولا تحد من قدرته على التطور. وأوضح أن حوكمة الذكاء الاصطناعي ينبغي أن تستند إلى نهج قائم على المخاطر، بحيث تخضع التطبيقات منخفضة المخاطر لمستوى مناسب من الرقابة، بينما تفرض ضوابط أكثر صرامة على الاستخدامات التي تمس السلامة والرعاية الصحية، والحقوق والبنية التحتية الحيوية أو الأمن الوطني. أضاف أن اتساع القيود التنظيمية بشكل مفرط قد يدفع أنشطة الابتكار إلى دول تتمتع برؤوس أموال أكبر، وقدرات حوسبة أعلى، ومرونة تنظيمية أكبر، ما يجعل تحقيق التوازن بين الرقابة ودعم الابتكار أكثر أهمية. حول أسباب القلق من التطور غير المنضبط للذكاء الاصطناعي، قال مينون إن التحدي الأساسي يكمن في تطور القدرات بوتيرة أسرع من القدرة على وضع الأطر التنظيمية اللازمة وإدارة تداعياتها، بما في ذلك الهجمات السيبرانية والمعلومات المضللة، واتخاذ القرارات بشكل مستقل، وتزايد تركّز النفوذ.