ترجمة الخليج أونلاين

لم يعد الذكاء الاصطناعي مجرد أداة للإجابة عن الأسئلة أو توليد النصوص والصور، بل بات قادرًا على تنفيذ مهام بصورة شبه مستقلة، وتحليل أنظمة رقمية معقدة، والبحث عن ثغرات أمنية.

ومع تطور ما يعرف بـ«الذكاء الاصطناعي الوكيلي»، تتزايد المخاوف من تحول هذه القدرات إلى سلاح جديد في أيدي القراصنة والدول المعادية، بما يهدد الأمن السيبراني والبنية التحتية الحيوية.

ويحذر البروفيسور أندرياس دينجل، المدير التنفيذي للمركز الألماني لأبحاث الذكاء الاصطناعي في كايزرسلاوترن، من أن التطورات الأخيرة تستدعي القلق، خصوصًا بعدما أصبحت أنظمة الذكاء الاصطناعي قادرة على العمل كـ«وكلاء» يتولون مهام متعددة ويتفاعلون فيما بينهم للبحث عن حلول.

ويؤكد دينجل أن هذه الأنظمة لا تتصرف بالضرورة بدافع أو «نية» بشرية، لكنها قد تطور استراتيجيات غير متوقعة عندما تُمنح أهدافًا واسعة أو غير محددة بدقة. 

من أداة مساعدة إلى «وكيل» مستقل

تكمن الخطورة، بحسب دينجل، في انتقال الذكاء الاصطناعي من نموذج يجيب عن طلبات المستخدم إلى أنظمة تستطيع التخطيط وتنفيذ سلسلة من الخطوات بصورة مستقلة.

وفي إحدى التجارب الأمنية الحديثة، خرجت أنظمة ذكاء اصطناعي من بيئة اختبار يفترض أنها مغلقة، وتمكنت من الوصول إلى الإنترنت ومحاولة استغلال ثغرات في نظام خارجي.

واعتبر دينجل الواقعة «شديدة الخطورة»، موضحًا أن المشكلة لم تكن في وجود رغبة لدى النظام في الهروب، وإنما في أن صياغة المهمة وحدودها لم تكن واضحة بما يكفي. 

ويعني ذلك أن الخطأ في تحديد الهدف أو منح النظام صلاحيات واسعة قد يدفعه إلى البحث عن طرق غير متوقعة للوصول إلى النتيجة المطلوبة، بما في ذلك اكتشاف نقاط ضعف أمنية أو تجاوز بعض القيود التي وضعها البشر.

تهديد للبنية التحتية

لا تقتصر المخاوف على سرقة البيانات أو اختراق الحواسيب الشخصية، إذ يرى دينجل أن القدرات المتقدمة للذكاء الاصطناعي قد تضع البنية التحتية الحيوية أمام مخاطر أكبر.

وتشمل هذه المخاطر شبكات الكهرباء، والاتصالات، والأنظمة الصناعية، وحتى اتصالات الأقمار الاصطناعية والإنترنت.

ويزداد القلق مع قدرة النماذج الحديثة على معالجة كميات هائلة من المعلومات واكتشاف أنماط قد يصعب على البشر ملاحظتها.

وفي عالم يعتمد بصورة متزايدة على الأنظمة الرقمية والمترابطة، يمكن لهذه القدرة أن تساعد في اكتشاف ثغرات غير معروفة سابقًا. وكان دينجل قد أشار في أبحاث سابقة إلى أهمية حماية تطبيقات الذكاء الاصطناعي المستخدمة في قطاعات البنية التحتية الحيوية، ومنها الطاقة، من استغلال البيانات أو النماذج بصورة تضر بالأفراد والمجتمعات. 

سباق بين الهجوم والدفاع

المفارقة أن الذكاء الاصطناعي يمكن أن يكون في الوقت نفسه جزءًا من المشكلة والحل. فالقدرات نفسها التي يمكن استخدامها لاكتشاف الثغرات يمكن توظيفها لمساعدة أجهزة الأمن والجهات المختصة على رصد الهجمات وتحليل البيانات الضخمة وتسريع التحقيقات الرقمية.

ويعمل مركز الأبحاث الألماني بالفعل مع أجهزة الشرطة على استخدام الذكاء الاصطناعي في تحليل البيانات والأدلة الرقمية ومكافحة الجرائم الإلكترونية. 

ويرى دينجل أن مواجهة المخاطر لا يمكن أن تعتمد على التكنولوجيا وحدها، بل تحتاج إلى قواعد واضحة تحدد ما يجوز للأنظمة الذكية القيام به، إلى جانب آليات رقابة وملاحقة قضائية فعالة.

كما يدعو إلى قواعد دولية تسمح بفرض عقوبات على الاستخدامات الخطرة للذكاء الاصطناعي، معتبرًا أن تشكيل تحالفات بين الدول ذات القيم المشتركة يمكن أن يكون خطوة أساسية للحد من المخاطر.

وبينما تتسارع قدرات الذكاء الاصطناعي، يبدو أن المعركة المقبلة في الفضاء السيبراني لن تكون بين القراصنة والبشر فقط، بل بين أنظمة ذكية تستخدم للهجوم وأخرى تستخدم للدفاع. ويبقى التحدي الأكبر هو ضمان ألا تتجاوز سرعة تطور هذه التقنيات قدرة الحكومات والمؤسسات على ضبطها وتأمين الأنظمة التي أصبحت تعتمد عليها الحياة اليومية.