مجلة الأمن الفصلية

حوكمة الذكاء الاصطناعي وأهميتها بالنسبة للمؤسسات الأمنية وبوجــود البيانــات المهمــة لجميــع وظائــف الأعمــال، ومشــاركة العــملاء، والمنتجــات، وسلاسل التوريد، يحتاج كل قائد إلى أن يكون على دراية بالذكاء الاصطناعي. ويمكــن القول بأنــه من دون تحديد المســؤول عن جوانب الحوكمة، فسيكون نهج حوكمة الذكاء الاصطناعي متواضعًا، وبالتالي يجب أن يأخذ الرؤساء التنفيذيون دورهم في حوكمة الذكاء الاصطناعي. ومــن المرجح أن تصبح الحكومــات أكثر انخراطاً من خلال المتطلبــات التنظيميــة والقانونية وأن تصبح شركات التدقيق كياناً تابعاً لجهة خارجية يشارك في المراجعة المستمرة لحوكمة الذكاء الاصطناعي. والجديــر بالذكر أن قيادة الذكاء الاصطناعي تعد مهارة جديدة مهمة لجميع القادة وحوكمة الذكاء الاصطناعيهــي عنصر من عناصر تلك القيادة، ومن ثــم فإن حوكمة الــذكاء الاصطناعي يجب أن تكون ذات صلــة وقابلة للتطبيــق على جميــع القادة في المؤسســة، وذلك مع الأخذ في الاعتبار وجود أدوار وظيفيــة مهمة فــي الإنفــاذ والتطوير المســتمر لحوكمة الذكاء الاصطناعي. – لا يزال غموضخوارزميات التعلم الآلي المعقدة 11 يشــكل عائقــاً رئيســياً أمــام حوكمــة الذكاء الاصطناعــي لأنــه يحدّ مــن مدى الشــفافية والقدرة على التفسير والمســاءلة التي يمكن تحقيقها في أنظمــة الذكاء الاصطناعي، حتى مــع المســتويات الإلزامية للشــفافية وقابلية التفســير للخوارزميــات، فمن المســتحيل على الخبــراء أنفســهم تفســير كيفية اســتخلاص مخرجــات خوارزميــة معينــة مــن مدخلاتهــا وتصميم الخوارزمية لتكون أكثر قابلية للتفسير الــذي يقلــل مــن تعقيدهــا، وهو ما ثبــت أنه يقــوض الدقة والأداء. غالباً مــا يحرصمطورو الخوارزميــات على إبقــاء الخوارزميــات معتمة عمداً لمنع الهجمات الإلكترونية وحماية الأسرار التجاريــة، وهو ما يبــرره قانوناً حقــوق الملكية الفكريــة، كمــا أن تعقيــد مجموعــات البيانات الواســعة التي تســتخدمها خوارزميــات التعلم الآلي يجعل من المســتحيل تقريباً تحديد وإزالة جميع المتغيرات المرتبطة بفئات حساســة من البيانات الشخصية. – قرارات التعلم الآلي غير متوقعة لأنها مستمدة 12 من البيانات ويمكن أن تختلف بشــكل كبير مع التغييرات الطفيفة في المدخلات، وهذا يشير لافتقار القدرة البشرية على التحكم في سلوك أنظمة الذكاء الاصطناعي وإلىصعوبة تحديد المسؤولية والمحاسبة عن الأضرار الناجمة عن عيوب البرمجيات، حيث لا يســتطيع المصنعون والمبرمجــون فــي كثيــر مــن الأحيــان التنبؤ بالمــدخلات وقواعد التصميــم التي قد تؤدي إلى نتائج غير آمنة أو تمييزية. – تعــد حوكمــة البيانــات قضية رئيســية تحيط 13 بالنقــاش حول حوكمــة الــذكاء الاصطناعي، حيث توجــد تحديــات تنظيميــة وتكنولوجية متعددة تعيق الســيطرة الفعالــة على البيانات وإســناد المســؤولية عن القرارات القائمة على البيانات التي تتخذها أنظمة الذكاء الاصطناعي ، والملاحــظ إن تجزئــة البيانــات والافتقــار إلى التوافق بين الأنظمة يحد منسيطرة المنظمة علــى تدفقــات البيانــات طــوال دورة حياتهــا بالكامل، كما أن الأدوار المشتركة بين الأطراف المختلفة في مشــاركة البيانات تحجبسلسلة المســاءلة والســببية بيــن القرارات/الأحداث القائمــة على الــذكاء الاصطناعــي والأطراف . )9( المشاركة في تسهيل هذا القرار المطلب الخامس: أهمية حوكمة الذكاء الاصطناعي بالنسبة للمؤسسات الأمنية إن حوكمة الــذكاء الاصطناعيضرورية للوصول إلــىحالة من الامتثال والثقــة والكفاءة في تطوير وتطبيق تقنيات الذكاء الاصطناعي، في المؤسسات