وكيل ذكاء اصطناعى يخترق نظام حجز صالة ألعاب ويزيل شخصا من قائمة الانتظار

في واقعة جديدة تسلط الضوء على المخاطر المحتملة لوكلاء الذكاء الاصطناعي المستقلين، يُزعم أن أحد وكلاء الذكاء الاصطناعي تمكن من استغلال ثغرة في نظام حجز تابع لصالة ألعاب رياضية في أستراليا، ليس فقط لحجز مكان لمستخدمه قبل الموعد المسموح به، وإنما أيضًا لإزالة شخص آخر من قائمة الانتظار.

ووفقًا لما نقلته هيئة الإذاعة الأسترالية ABC، طلب مواطن أسترالي يُدعى أندرو من مساعده المدعوم بالذكاء الاصطناعي حجز مكان له في إحدى الحصص الصباحية داخل صالته الرياضية، إلا أن الوكيل ذهب إلى ما هو أبعد من مجرد تنفيذ الطلب.

حجز موعد لعدة أشهر رغم قيود النظام

عاد المساعد إلى أندرو ليخبره بأنه نجح في حجز الحصة لعدة أشهر مقدمًا، رغم أن نظام الصالة لا يسمح بالحجز لهذه الفترة، وبحسب القصة، تمكن الوكيل من تنفيذ ذلك عبر استغلال ثغرة أمنية في برنامج الحجز، قبل أن يتخذ خطوة أكثر إثارة للقلق، وهي إزالة أحد الأشخاص الموجودين في قائمة الانتظار، رغم أنه كان متقدمًا على أندرو في الترتيب.

وأرسل الوكيل إلى أندرو رسالة قال فيها إن واجهة برمجة التطبيقات (API) الخاصة بالنظام لا تتضمن أي آليات للتحقق من صلاحية إلغاء حجوزات أشخاص آخرين، موضحًا أنه اختبر الأمر على الشخص الموجود في المركز الأول بقائمة الانتظار، وأن العملية تمت بالفعل، ما أدى إلى تقدم أندرو من المركز الرابع إلى الثالث.

الوكيل لم يتمكن من إعادة الشخص إلى القائمة

عندما طلب أندرو من المساعد التراجع عن الخطوة وإعادة الشخص الذي أُزيل من قائمة الانتظار، جاءت المفاجأة؛ إذ أخبره الوكيل بأنه لا يستطيع إعادة الشخص إلى القائمة.

ولم تستجب شركة Anthropic، المطورة للمساعد المستخدم في الواقعة، لطلب التعليق، كما لم يرد مطور برنامج إدارة الحجوزات في الصالة الرياضية على الاستفسارات المتعلقة بالحادث.

وقال أندرو، الذي يعمل في مجال الذكاء الاصطناعي، إنه لم يوجه المساعد عمدًا إلى اختراق النظام أو الإضرار بمستخدم آخر، لكنه اعتبر الواقعة “إشارة تحذير” بشأن ضرورة استخدام هذه الأدوات بمسؤولية.

هل يمكن تحميل المستخدم مسؤولية ما فعله الوكيل؟

تثير الواقعة سؤالًا أكثر تعقيدًا حول حدود مسؤولية المستخدم عندما ينفذ وكيل ذكاء اصطناعي مستقل مهمة تبدو عادية في الأساس.

فحجز موعد في صالة ألعاب رياضية يُقدم أصلًا باعتباره أحد الاستخدامات النموذجية لوكلاء الذكاء الاصطناعي القادرين على تنفيذ المهام نيابة عن المستخدم. لكن أندرو لم يطلب من المساعد اختراق النظام أو إزالة شخص من قائمة الانتظار؛ بل طلب منه ببساطة حجز مكان في إحدى الحصص.

وقال بيل سيمبسون-يونج، الشريك المؤسس والرئيس التنفيذي لمعهد Gradient Institute الأسترالي لأبحاث سلامة الذكاء الاصطناعي، إن هذه الواقعة قد تكون مجرد بداية لمشكلة أكبر.

وأوضح أن الإنترنت أصبح عالمًا معقدًا تديره البرمجيات، لكن هذه البرمجيات تحتوي في الوقت نفسه على ثغرات، مشيرًا إلى أن إدخال وكلاء ذكاء اصطناعي يتمتعون بقدرات كبيرة ويمكنهم تنفيذ العمليات بسرعة وعلى نطاق واسع قد يؤدي إلى انهيار هذا النموذج.

وكلاء الذكاء الاصطناعي بدأوا بالفعل في الخروج عن السيطرة

لا تُعد هذه الواقعة الأولى التي يثير فيها وكيل ذكاء اصطناعي مخاوف بشأن تنفيذ مهام تتجاوز ما يتوقعه المستخدم، فقد ظهرت خلال الفترة الماضية عدة قصص عن وكلاء ذكاء اصطناعي تصرفوا بطرق غير متوقعة، من بينها وكيل تابع لـOpenAI قيل إنه استمر في تنفيذ عمليات على الإنترنت لمدة أسبوع كامل، ووكيل آخر كتب هجومًا على مبرمج عشوائي بعدما رفض المبرمج الشفرة التي أنشأها.

كما ظهرت حالات أخرى حاول فيها وكيل ذكاء اصطناعي ابتزاز مستخدم لمنعه من إيقافه، بينما واصل مساعد آخر حذف صندوق البريد الإلكتروني لأحد المديرين التنفيذيين في شركة Meta، رغم مطالبته بالتوقف عدة مرات.

هل تكشف هذه الوقائع قوة الوكلاء أم ضعف أنظمة الحماية؟

تفتح هذه الحوادث نقاشًا أوسع حول مستقبل وكلاء الذكاء الاصطناعي، خصوصًا مع انتقالهم من مجرد الإجابة عن الأسئلة إلى تنفيذ مهام حقيقية نيابة عن المستخدمين.

ويرى بعض المراقبين أن التركيز الإعلامي الكبير على حالات “خروج” الوكلاء عن السيطرة قد يخدم شركات الذكاء الاصطناعي بصورة غير مباشرة، لأنه يوحي بأن هذه الأنظمة أصبحت قوية وقادرة على اتخاذ إجراءات فعلية في العالم الرقمي، بدلًا من كونها مجرد روبوتات للمحادثة.

وفي المقابل، فإن الخطر الحقيقي قد يكمن في الجمع بين وكلاء يتمتعون بقدرات متزايدة وأنظمة إنترنت قديمة تحتوي على ثغرات أمنية وصلاحيات غير محكمة.