أطلقت الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا) إطارًا جديدًا لإدارة مخاطر الذكاء الاصطناعي، الهدف منه تقديم منهجية موحدة تساعد الجهات الحكومية والخاصة في التعامل مع هذه التقنية بشكل آمن وفعال، حيث يتضمن هذا الإطار خطوات لتحديد المخاطر وتقييمها وعلاجها ومتابعتها، مما يسهم في تعزيز استخدام الذكاء الاصطناعي بشكل يتماشى مع الرؤية الوطنية.
أهمية الإطار في ظل التوسع السريع
ذكرت سدايا في بيان لها أن هذا الإطار يأتي في وقت يشهد فيه العالم والمحلي تسارعًا في استخدام تقنيات الذكاء الاصطناعي، وهو ما يطرح مخاطر جديدة تختلف عن تلك المرتبطة بالأنظمة التقليدية، حيث يمكن أن تؤثر هذه المخاطر على الأفراد والجهات والاقتصاد بشكل عام.
خصائص مخاطر الذكاء الاصطناعي
أوضحت سدايا أن مخاطر الذكاء الاصطناعي تتسم بخصائص مختلفة، فهي قد تظهر بشكل غير متوقع أثناء التشغيل، كما أن أداء الأنظمة قد يتغير مع مرور الوقت، مما يجعل من الصعب تفسير سلوكها أو إعادة إنتاج نتائجها، وهذا يعقد عملية حصر المخاطر وتقييمها، لذا فإن الحاجة إلى منهجية شاملة لإدارتها باتت ضرورية.
منهجية إدارة المخاطر
تقوم منهجية إدارة المخاطر على أربع مراحل مترابطة تبدأ بتحديد السياق والنطاق، ثم تحديد المخاطر وتقييمها ومعالجتها، وصولًا إلى المتابعة والمراجعة المستمرة، كما يتم احتساب مستوى الخطر من خلال مصفوفة تربط بين احتمالية وقوعه وحجم أثره، مما يساعد في توحيد آلية التقييم بين الجهات المختلفة.
المبادئ الأساسية للإطار
الإطار يعتمد على سبعة مبادئ أساسية تشمل النزاهة والإنصاف، الخصوصية والأمن، الإنسانية، الموثوقية والسلامة، الشفافية وقابلية التفسير، المساءلة والمسؤولية، والمنافع الاجتماعية والبيئية، كما يصنف مخاطر الذكاء الاصطناعي إلى سبعة أنواع رئيسية لضمان شمولية التحديد وعدم إغفال أي فئة جوهرية.
سيناريو تطبيقي
تضمن الإطار سيناريو تطبيقي يحاكي استخدام جهة حكومية لأحد النماذج في إعداد التقارير الداخلية، حيث يستعرض كيفية تحديد المخاطر المرتبطة به وتقييمها ومعالجتها ومتابعتها، مما يقدم نموذجًا عمليًا يمكن تطبيقه في مختلف القطاعات ومراحل النضج الرقمي.
دور سدايا في تعزيز الاستخدام المسؤول
هذا الإطار يأتي ضمن جهود سدايا لتعزيز الاستخدام المسؤول والآمن لتقنيات الذكاء الاصطناعي، حيث تسعى الهيئة إلى تمكين الجهات الوطنية من تبني هذه التقنيات بما يتماشى مع مستهدفات رؤية المملكة 2030، وتؤكد سدايا أنها المرجع الوطني للبيانات والذكاء الاصطناعي في المملكة.
يمكن للراغبين في الاطلاع على الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي زيارة الرابط المتاح على منصة سدايا للحصول على المزيد من المعلومات.