تتقدم تقنیات الذكاء الاصطناعي والتعلم الآلي للآلات بسرعة في السنوات الأخیرة، وقد أتاح تطورھا مجموعة واسعة من التطبیقات المفیدة. حیث یعتبر الذكاء الاصطناعي عنصرا في التقنیات المستخدمة على نطاق واسع مثل التعرف أساسیا .التلقائي على الكلام، والترجمة الآلیة، وفلاتر الرسائل غیر المرغوب فیھا ومحركات البحث. ومن بین التقنیات الواعدة
ً السیارات ذاتیة القیادة (بدون سائق) والمساعدات الرقمیة للممرضات والأطباء، والطائرات
الأخرى التي یجري بحثھا حالیا
بدون طیار التي تسھل عملیات الإسعاف من أجل الإسراع في عملیات الإغاثة في حالات الكوارث. وحتى في المستقبل، تقدم
ً من البحث العلمي، ویحسن نوعیة
تقنیات الذكاء الاصطناعي الوعد بتقلیص الحاجة إلى العمالة الزائدة، مما یسرع كثیرا
الخدمات الحكومیة، فالجمیع متحمسون للعدید من ھذه التطورات.
من جانب آخر یجب أیضا الانتباه إلى الطرق التي یمكن بھا استخدام الذكاء الاصطناعي بشكل ضار. إن القیام بتحلیل ھذه المخاطر بالتفصیل یمكن أن یساعد على منعھا أو تخفیفھا، لیس فقط من أجل قیمة منع الأضرار المرتبطة بھا، ولكن أیضا
لمنع التأخیر في تحقیق الاستفادة المرجوة من التطبیقات المفیدة للذكاء الاصطناعي. لقد بدات تطبیقات الذكاء الاصطناعي والتعلم الآلي للآلات العمل على تغییر طبیعة المخاطر الأمنیة للمواطنین والمنظمات والدول وذلك بسبب الأضرارالناتجة عن الاستخدام السيء لمثل ھذه التطبیقات.
حیث یمكن أن یؤدي الاستخدام الضار لتطبیقات الذكاء الاصطناعي إلى تھدید الأمن الرقمي (على سبیل المثال من خلال آلات مدربة على اختراق الأنظمة الأمنیة الإلكترونیة ویفوق مستوى أداء ھذه الآلات الأداء البشري)، والأمان الجسدي (على سبیل المثال الجھات الإرھابیة والإجرامیة التي تقوم بتسلیح الطائرات بدون طیار)، والأمن السیاسي (على سبیل المثال من خلال القضاء على الخصوصیة والقیام بعملیات المراقبة، وتضلیل الرأي العام أو من خلال حملات التضلیل التلقائیة والموجھة).
إن الاستخدام الضار لتطبیقات الذكاء الاصطناعي سوف یؤثر على كیفیة بناء وإدارة البنیة التحتیة الرقمیة لدینا وكذلك كیفیة تصمیم وتوزع أنظمة الذكاء الاصطناعي، وسیتطلب على الأرجح سیاسات واستجابات مؤسسیة أخرى. إن السؤال الذي
یجب الإجابة علیھ ھو: كیف یمكننا التنبؤ، ومنع، و(عند الضرورة) التخفیف من الآثار الضارة للاستخدامات الضارة لتطبیقات
الذكاء الاصطناعي؟
بما أن قدرات الذكاء الاصطناعي تصبح أكثر قوة وواسعة الانتشار، فإننا نتوقع بأن الاستخدام المتزاید لأنظمة الذكاء
الاصطناعي قد یؤدي إلى التغییرات التالیة في المشھد من التھدیدات:
• توسع وتزاید التھدیدات الحالیة: قد یتم تخفیض تكلفة الھجمات من خلال الاستخدام المتزاید والقابل للتوسع لأنظمة الذكاء
ً عمالة وذكاء وخبرة بشریة. ومن الآثار الطبیعیة لھذا التوسع في استخدام تلك
الاصطناعي لإنجاز المھام التي تتطلب عادة
التطبیقات تزاید المجموعات الإرھابیة والإجرامیة الفاعلة التي یمكنھا شن ھجمات معینة، وإرتفاع معدل شن ھذه الھجمات،
واتساع مجموعة الأھداف المحتملة
ظھور نوع من التھدیدات الجدیدة: فقد تنشأ ھجمات جدیدة من خلال استخدام أنظمة الذكاء الاصطناعي لإنجاز المھام التي
قد تكون غیر عملیة للإنسان. بالإضافة إلى ذلك، قد تستغل الجھات الإرھابیة والإجرامیة نقاط ضعف أنظمة الذكاء
الاصطناعي التي ینشرھا الباحثون والمطورن للأنظمة الأمنیة المبنیة على تقنیات الذكاء الاصطناعي.
• التغییر في النظرة والمفھوم إلى الطابع النموذجي للتھدیدات: یعتقد أن ھناك سبب لتوقع أن الھجمات التي سیتم ارتكابھا من خلال الاستخدام المتزاید لتطبیقات الذكاء الاصطناعي ھي فعالة بشكل خاص، وموجھة بشكل دقیق، ومن الصعب تحدیدھا،
ومن المحتمل أن تستغل نقاط الضعف في أنظمة الذكاء الاصطناعي.
فینبغي القیام بھیكلة تحلیلنا من خلال النظر بشكل منفصل في ثلاثة مجالات أمنیة، وتوضیح التغییرات المحتملة على التھدیدات
داخل ھذه المجالات من خلال أمثلة توضیحیة:
• الأمن الرقمي: إن استخدام الذكاء الاصطناعي لأتمتة المھام التي ینطوي علیھا تنفیذ الھجمات الإلكترونیة سیخفف من
المفاضلة القائمة بین نطاق الھجمات وفعالیتھا. وقد یوسع ھذا من التھدید المرتبط بالھجمات الإلكترونیة المكثفة (مثل التصید الاحتیالي). كما نتوقع ھجمات جدیدة تستغل نقاط الضعف البشریة (من خلال استخدام تركیب الكلام لانتحال الھویة)، أو نقاط ضعف البرامج الموجودة (من خلال القرصنة الآلیة)، أو نقاط ضعف أنظمة الذكاء الاصطناعي (من خلال تسمیم
البیانات).
• الأمن المادي: إن استخدام الذكاء الاصطناعي لأتمتة المھام التي ینطوي علیھا تنفیذ ھجمات باستخدام طائرات بدون طیار
وأنظمة تسلیح أخرى (على سبیل المثال من خلال نشر أنظمة أسلحة مستقلة) قد یوسع التھدیدات المرتبطة بھذه الھجمات. كما
نتوقع ھجمات جدیدة تقوض الأنظمة السیبرانیة (على سبیل المثال التسبب في انھیار المركبات ذاتیة الحركة) أو تنطوي على
أنظمة غیر مرئیة من الممكن توجیھھا عن بعد (على سبیل المثال سرب من المئات أو الآلاف من الطائرات الصغیرة الموجھة عن بعد).
• الأمن السیاسي. قد یؤدي استخدام الذكاء الاصطناعي لأتمتة المھام المتضمنة في المراقبة (مثل تحلیل البیانات المجمعة
والبیانات الضخمة) والإقناع والتلاعب بالرأي العام (مثل إنشاء دعایة مستھدفة) والخداع (مثل التلاعب بالفیدیو) إلى توسیع التھدیدات المرتبطة بغزو الخصوصیة والتلاعب الاجتماعي والسیاسي وتشكیل تیار للرأي العام. كما نتوقع ھجمات جدیدة تستفید من تحسین القدرة على تحلیل السلوكیات البشریة والمزاجیة والمعتقدات المستندة إلى البیانات المتاحة. تؤكد الاتجاھات الحالیة على الوصول المفتوح على نطاق واسع إلى أحدث الأبحاث والتطویرات، وإذا استمرت ھذه الاتجاھات للسنوات الخمس القادمة، فإننا نتوقع أن تتزاید قدرة المھاجمین على إلحاق الضرر بالنظم
