تحذير من مخاطر الذكاء الاصطناعي: هل انقضت مهلة تفادي الكارثة؟

قد يبدأ الخطر برسالة إلكترونية تصل إلى حاسوب أحد الموظفين في مستشفى، فيفتح الملف المرفق، لتنهار الشبكة وتختفي ملفات المرضى من الشاشات. حينها يعجز الطبيب عن الاطلاع على صور الأشعة، وتتأجل عملية جراحية، ويظل مريض على سريره ينتظر جرعة دواء لا يستطيع الممرض التأكد من صحتها. بهذه الطريقة قد يصل أذى الذكاء الاصطناعي إلى أجسادنا، إذ يستخدمه مخترق لفتح ثغرة في شبكة المستشفى، ويدفع المريض الثمن.

سؤال ثقيل من جامعة هارفارد

يطرح مقال في مجلة هارفارد غازيت، يستند إلى دراسة من مركز بلفر، سؤالاً جوهرياً: هل فات أوان اتقاء كارثة يساعد الذكاء الاصطناعي على صنعها؟ الجواب الذي يقدمه المقال هو أن الوقت لم ينفد بعد، لكن القرارات التي تتخذها الشركات والحكومات في الوقت الراهن قد تحدد حجم الخسائر في المستقبل.

سلاح ذو حدين

المشكلة أن مهارات الذكاء الاصطناعي نفسها قد تخدم الطبيب والمجرم معاً، فالبرنامج الذي يعين الباحث على فهم الأمراض قد يُساء استخدامه في إلحاق الأذى، والنظام الذي يكشف ثغرة في شبكة قد يساعد على اقتحامها.

لكن الخطر لا يبرر إغلاق المختبرات، بل المطلوب هو أبواب محكمة، واختبارات مستقلة قبل طرح الأنظمة، وتدريبها على رفض الطلبات المؤذية، ومراقبة إساءة استخدامها بضوابط تحمي الخصوصية. وعلى الحكومات أن تلزم الشركات بالإبلاغ عن الحوادث.

ضرورة النقاش في العالم العربي

وفي العالم العربي، ينبغي أن يبدأ النقاش من المرافق الحيوية وسرير المستشفى وحساب المواطن المصرفي، فماذا يحدث إذا اختُرقت سجلات المرضى، أو استُخدم صوت مصطنع لاستدراج أسرة إلى تحويل مدخراتها؟

وثمة خطر يمس نسيج مجتمعاتنا، يتمثل في تسجيل ملفق لخطيب، أو مقطع مزور لمسؤول، أو صورة مختلقة تُلقى بين جماعتين متخاصمتين. قد تنطلق الشائعة في دقائق، بينما يصل التكذيب بعد فوات الأوان.

وتحتاج اللغة العربية، بلهجاتها وسياقاتها، إلى اختبارات أمان يصممها باحثون يعرفونها. كما نحتاج إلى تعاون عربي لتبادل إنذارات الاختراق، وتأهيل فرق الاستجابة، وحماية بيانات المواطنين من التسرب والاستغلال.

لن ينقذنا الفزع، بل تحمينا مسؤولية واضحة: من اختبر النظام؟ ومن سمح له بالوصول إلى المرفق؟ ومن يستطيع إيقافه؟ قبل أن نسلّم الآلة مفتاح المستشفى، علينا أن نعرف من سيعيد فتح الباب إذا أغلقه الذكاء الاصطناعي في وجوهنا.

لمزيد من مقالات الكاتب السابقة، يمكن النقر على اسمه. الملاحظ أن مسؤولية ما ينشر في مقالات الرأي تقع على الكاتب وحده، ولا تتحمل الصحيفة مسؤولية الآراء الواردة فيها.