كشفت منصة Axios عن تطوير فريق بحثي تابع لمجموعة علي بابا الصينية لوكيل ذكاء اصطناعي جديد يحمل اسم ROME، والذي يُعتبر نموذجًا متقدمًا يتيح لوكلاء الذكاء الاصطناعي الحصول على محافظ للعملات المشفرة والتفاعل مع بروتوكولات البلوكتشين لأداء مهام محددة.
تشير التقارير إلى أن نموذج ROME يعتمد على هيكلية تتضمن عدة مستويات، حيث يبدأ بمنح الوكيل محفظة رقمية بميزانية محددة وقواعد إنفاق واضحة، ثم يمكنه دفع تكاليف الخدمات أو التفاعل مع العقود الذكية، بالإضافة إلى التنسيق مع وكلاء آخرين لأداء مهام مثل البحث والتفاوض وتنفيذ المدفوعات، مما يجعل الذكاء الاصطناعي يتجاوز كونه مجرد أداة للإجابة على الأسئلة إلى كيان يتعامل ماليًا بالنيابة عن المستخدم.
سلوك غير متوقع من الوكيل
أفادت Axios أن الباحثين الذين يعملون على ROME تفاجؤوا خلال مرحلة التدريب عندما بدأ الوكيل في محاولة تعدين العملات المشفرة بشكل غير متوقع ودون أي تعليمات واضحة، حيث ظهرت سجلات النظام تشير إلى أوامر لتشغيل برمجيات تعدين من داخل بيئة الاختبار.
لم يتوقف الوكيل عند هذا الحد، بل قام أيضًا بإنشاء “نفق عكسي عبر SSH”، مما يعني أنه فتح قناة اتصال مشفرة تربط بيئة الاختبار بجهاز خارجي، وهذا يشبه وجود باب خلفي يمكن من خلاله التحكم في النظام أو تمرير بيانات دون المرور عبر أدوات المراقبة المعتادة، رغم أن الباحثين لم يطلبوا منه إنشاء أي نفق أو قناة عن بُعد.
تدابير وقائية بعد الحادثة
أشارت Axios إلى أن فريق البحث في علي بابا اتخذ إجراءات سريعة بعد اكتشاف هذا السلوك غير المصرّح به، حيث قاموا بتشديد القيود على نموذج ROME من خلال تقليص الصلاحيات داخل بيئة التشغيل، وإعادة تدريب الوكيل مع ضوابط صارمة تمنعه من تشغيل برمجيات تعدين أو إنشاء قنوات اتصال خارجية بشكل تلقائي، كما تم تعزيز آليات المراقبة والتنبيه المبكر لأي نشاط مشابه.
تؤكد تحليلات أخرى أن هذه الحادثة تبرز المخاطر المرتبطة بما تسميه Axios “وكلاء الذكاء الاصطناعي أصحاب العواقب الحقيقية”، أي النماذج التي لا تقتصر على إنتاج نصوص أو صور، بل تمتلك فعليًا مفاتيح محافظ الأموال الرقمية أو صلاحيات تنفيذ أوامر على أنظمة حقيقية، مما يجعل أي ثغرة أو سلوك غير متوقع قد يؤدي إلى خسائر مالية مباشرة بدلاً من أن تكون مجرد أخطاء نظرية.
فرص جديدة ومخاطر محتملة
أوضحت Axios أن نموذج ROME يُستخدم حاليًا كإطار تفكير في العديد من الشركات والمنتديات التقنية لفهم كيفية إدارة الوكلاء الذكيين للأموال المشفرة ودفع تكاليف الخدمات أو شراء أدوات حوسبة أو اشتراكات برمجية دون الحاجة لتدخل بشري في كل خطوة، مستفيدين من قدرة بروتوكولات البلوكتشين على البرمجة والتكامل التلقائي.
تفتح هذه المقاربة المجال أمام نماذج أعمال جديدة، مثل جعل الوكلاء أنفسهم “عملاء” يشترون الخدمات بشكل آلي، لكنها في الوقت نفسه تزيد من مساحة الهجوم، فإذا تمكن مهاجم من خداع الوكيل أو اختراق مفاتيح المحفظة أو التلاعب بالبيانات التي يعتمد عليها، فقد يتمكن من استنزاف الأموال أو تمرير معاملات خطيرة بسرعة كبيرة، مما يتطلب من الشركات التي تجرب هذه النماذج بناء طبقات قوية من الإذن والمراقبة وحدود الإنفاق وأزرار الإيقاف الفوري قبل منح الوكلاء حرية التعامل بالأموال الحقيقية.