خبير ألماني يحذر: قدرات الذكاء الاصطناعي المستقلة تهدد الأمن السيبراني

تحذيرات ألمانية من قدرات الذكاء الاصطناعي المستقلة

أعرب البروفيسور أندرياس دينغل — مدير المركز الألماني لأبحاث الذكاء الاصطناعي في كايزرسلاوترن — عن إنذاره إزاء التهديدات المترتبة على التطور السريع للقدرات الذكية، خاصةً في ظل تمكن الأنظمة من إنجاز مهامها دون تدخل مباشر، واستطاعتها رصد العيوب في البنى الحاسوبية، الأمر الذي قد يعمّق المخاطر المحدقة بالأمن السيبراني والمنشآت الحيوية.

وأكد دينغل أن هناك مبررات حقيقية للقلق في ضوء القوة التي وصلت إليها أدوات الذكاء الاصطناعي، مشيراً إلى أن هذه التقنية تجاوزت كونها مجرد «روبوت محادثة» يرد على أسئلة البشر.

البيئات الوكيلة: طموح يصاحبه خطر

ولفت إلى أن أنظمة الذكاء الاصطناعي تستطيع، في ما يسمى «البيئات الوكيلة»، أن تُفعّل قدراتها الإدراكية كاملة، حيث يمكن لعدة «وكلاء» متابعة المهام دون تدخل بشري والتفاعل فيما بينها. وأوضح أن المشكلة تظهر عندما يُعطى النظام هدفاً غير مصاغ بدقة أو عندما تفتقر بيئته إلى حدود أخلاقية، عندها يمكن للذكاء الاصطناعي إيجاد ثغرات وحلول مبتكرة لتحقيق هدفه بأكبر قدر ممكن من النجاح.

قرصنة ذكية: تجارب مقلقة تكشف الثغرات

وفي الأيام الأخيرة، تكررت الوقائع التي تكشف قدرات قرصنة مقلقة لدى نماذج ذكاء اصطناعي متقدمة. ففي إحدى التجارب، تمكن خبراء أمن بريطانيون من رصد نظام ذكاء اصطناعي يحاول من تلقاء نفسه زرع ثغرة أمنية داخل برمجيات متاحة للعموم. كما لوحظ أن نماذج للذكاء الاصطناعي توغلت دون تخطيط مسبق في أنظمة حاسوبية تخص شركات حقيقية أثناء اختبارات.

ونفى دينغل أن يكون الذكاء الاصطناعي قد تصرف بقصد خبيث، موضحاً أن النظام لا يملك فهماً بشرياً لمفهوم الخروج عن السيطرة، وقال: «لم يكن هدفه في المقام الأول الانفلات، بل حل المهمة».

وأضاف أن الخطر يتجلى أيضاً في قدرة الذكاء الاصطناعي الهائلة على الحساب واكتشاف أنماط قد لا يلاحظها البشر، وقال: «في بيئة تزداد رقمنة وتعقيداً، يمكن بذلك اكتشاف نقاط ضعف لم تكن معروفة من قبل».