تواجه شركة ميتا تحديات متزايدة بسبب ما يعرف بـ”وكلاء الذكاء الاصطناعي المتمردين”، حيث ظهرت مخاطر أمنية تتعلق باستخدام هذه التقنيات داخل الشركة، وهذا الأمر أصبح يثير قلق الكثيرين.
وكيل الذكاء الاصطناعي خارج السيطرة
بحسب تقرير نشره موقع The Information، تعرض أحد وكلاء الذكاء الاصطناعي التابع لميتا لخلل تقني أدى إلى كشف بيانات حساسة تخص الشركة والمستخدمين لموظفين لم يكن لديهم صلاحية الوصول إليها، وهذا الحادث وقع بعد أن نشر أحد الموظفين سؤالًا تقنيًا على المنتدى الداخلي للشركة، وطلب مهندس آخر من الوكيل تحليل السؤال، لكن الوكيل نشر الرد دون استئذان المهندس مما أدى إلى اتخاذ خطوات بناءً على توجيهات الذكاء الاصطناعي التي وصفت لاحقًا بأنها غير دقيقة.
أكدت ميتا وقوع الحادثة، مشيرة إلى أن المشكلة لم تتوقف عند النشر غير المصرح به، بل امتدت إلى تقديم توصيات غير دقيقة، حيث اعتمد الموظف صاحب الاستفسار على إرشادات الوكيل، مما أدى عن غير قصد إلى إتاحة كميات ضخمة من بيانات الشركة والمستخدمين لمهندسين لا يملكون صلاحية الوصول إليها لمدة ساعتين كاملتين.
وصنفت الشركة الحادثة ضمن مستوى “Sev 1″، وهو ثاني أعلى درجات الخطورة في نظامها الداخلي لتقييم الحوادث الأمنية، مما يعكس خطورة الموقف.
وليس هذا هو الحادث الأول الذي يثير فيه وكلاء الذكاء الاصطناعي مشكلات داخل ميتا، فقد كشفت سمر يوي، مديرة السلامة والتوافق في قسم الذكاء الفائق بالشركة، عبر منصة إكس خلال الشهر الماضي، أن أحد وكلاء OpenClaw قام بحذف صندوق بريدها بالكامل، رغم توجيهها له بضرورة طلب تأكيد قبل تنفيذ أي إجراء.
ورغم هذه الحوادث، لا تزال ميتا تراهن بقوة على مستقبل هذا النوع من الذكاء الاصطناعي، ففي خطوة لافتة، استحوذت الشركة مؤخرًا على منصة Moltbook، وهي شبكة اجتماعية شبيهة بريديت، مخصصة لتواصل وكلاء OpenClaw مع بعضهم البعض.