في ظل التطور السريع والدائم لتكنولوجيا الذكاء الاصطناعي، أدى انتشار أنظمة الذكاء الاصطناعي وتكاملها إلى ظهور عصر جديد من الابتكار والتحول في مختلف الصناعات. ومع اعتمادنا المتزايد على الذكاء الاصطناعي في أداء مهام حيوية واتخاذ قرارات مصيرية، بات ضمان أمن هذه الأنظمة ضرورة مُلحة أكثر من أي وقت مضى. إن التفاعل المعقد بين البيانات والخوارزميات والقرارات المستقلة التي تتخذها أنظمة الذكاء الاصطناعي يجعل من تحصين هذه الأنظمة ضد الثغرات الأمنية والوصول غير المصرح به أمرًا بالغ الأهمية. وفي سبيل مواجهة التهديدات المتزايدة للأمن السيبراني والعواقب الوخيمة المحتملة للاختراقات المتعلقة بالذكاء الاصطناعي، فإن حماية سرية هذه الأنظمة وسلامتها، وضمان استخدامها بشكل أخلاقي ليست ضرورة فحسب، بل مسؤولية أساسية تقع على عاتقنا جميعًا.

 

وانطلاقًا من هذه المسؤولية، أعدّ المجلس هذه السياسة لتعزيز الأمن السيبراني في مجال الذكاء الاصطناعي، وذلك بالمواءمة مع رؤية دولة الإمارات العربية المتحدة التي تتمثّل في تمكينها من أن تصبح دولة رائدة عالميًا في مجال الأمن السيبراني، ولتعزيز الوضع الأمني للمؤسسات والأفراد الذين يستخدمون الذكاء الاصطناعي داخل الدولة.

الحوكمة

تشمل المتطلبات وضع إطار حوكمة قوي لأنظمة الذكاء الاصطناعي وتعلم الآلة يضمن تصميمها وتطويرها وتشغيلها بأمان من خلال سياسات وإجراءات شاملة وفعالة. ركز هذ الإطار على تحديد المخاطر الفريدة المرتبطة بهذه الأنظمة وتقييمها والتخفيف من حدتها، وإدارة مخاطر سلسلة الإمداد، وضبط التغييرات في النظام، وضمان الامتثال للوائح الخصوصية.

 

البنية التحتية وأمن التطبيقات

المتطلبات اللازمة لإعداد سجل دقيق عن أصول أنظمة الذكاء الاصطناعي وتعلم الآلة وتأمين ملفات تهيئة الأنظمة وتطبيق التحديثات الخاصة بالأمن بشكل منتظم ومعالجة الثغرات الأمنية، بجانب ضمان تطوير تطبيقات الذكاء الاصطناعي وتعلم الآلة واختبارها وتحديثها في بيئة آمنة. كما تُبرز أهمية تطبيق ضوابط أمنية قوية للشبكات لحماية سرية الأنظمة وسلامتها وتوافرها.

 

أمن الخوارزميات

المتطلبات اللازمة لدمج الضوابط الأمنية في عمليات تصميم وتطوير نماذج الذكاء الاصطناعي وتعلم الآلة في مراحلها الأولى والحفاظ على أمن النماذج وحماية عمليات الاستدلال وتنفيذ ضوابط التحكم في إمكانية الوصول إلى بيانات التدريب وضمان حماية البيانات سواء أثناء التخزين أو أثناء نقلها.

 

السلامة التشغيلية

المتطلبات اللازمة لمواءمة التدابير الأمنية مع التطبيقات المختلفة لأنظمة الذكاء الاصطناعي وتعلم الآلة لضمان الرقابة البشرية على عمليات اتخاذ القرارات الحيوية ووضع بروتوكولات تضمن صمود الأنظمة واستمراريتها، بالإضافة إلى إجراء اختبارات شاملة لضمان الموثوقية والاعتمادية.

 

الهجمات المعادية باستخدام الذكاء الاصطناعي

المتطلبات اللازمة لفهم وتوقع الهجمات المحتملة المرتبطة بأنظمة الذكاء الاصطناعي وتعلم الآلة وترسيخ النهج الوقائي لتحقيق الأمن والذي يشمل التثقيف والتوعية وآليات الدفاع الشاملة والمراقبة المستمرة والاختبار والاستجابة الصارمة للحوادث.

 

مراقبة أنظمة الذكاء الاصطناعي والاستجابة

المتطلبات اللازمة لوضع إطار عمل فعّال للتحليلات المتعلقة بأمن أنظمة الذكاء الاصطناعي وتعلم الآلة بهدف الكشف الفوري عن التهديدات والتوصل إلى رؤى وأفكار تنبؤية. وتركّز أيضًا على تنفيذ إطار مؤتمت للاستجابة للحوادث الأمنية في تلك الأنظمة بما يضمن فاعلية الإبلاغ عن الحوادث وإدارتها بجانب وضع إطار شامل للتحقيقات الرقمية مخصّص للاختراقات الأمنية في تلك الأنظمة.