أعلنت شركة أوبن إيه آي عن إطلاق ميزتين أمنيتين جديدتين لروبوت الدردشة شات جي بي تي، في إطار مساعيها للتصدي للتحديات المتسارعة في مجال أمن أنظمة الذكاء الاصطناعي، خاصة مع تزايد محاولات الاستغلال والهجمات التي تستهدف هذه التقنيات الحديثة.
وتهدف الخطوة إلى تعزيز حماية المستخدمين والمؤسسات من التهديدات الرقمية المتقدمة التي قد تؤدي إلى تسريب بيانات أو تنفيذ أوامر غير مصرح بها.
وضع القفل وميزة الخطر المرتفع
أوضحت الشركة في بيان أن الميزتين الجديدتين تحملان اسم Lockdown Mode أو وضع القفل، وElevated Risk أو الخطر المرتفع، وقد تم تصميمهما خصيصًا لمواجهة ما يعرف بهجمات حقن الأوامر، وهي أسلوب خبيث يعتمد على إدخال تعليمات مضللة داخل المحادثات بهدف خداع النظام ودفعه للكشف عن معلومات حساسة أو تجاوز القيود الأمنية.
ويعد وضع القفل إعدادًا اختياريًا ومتقدمًا يستهدف الفئات الأكثر عرضة للمخاطر، مثل المديرين التنفيذيين وفرق الأمن في الشركات والمؤسسات الكبرى، ويعمل هذا الوضع على فرض قيود صارمة على كيفية تفاعل شات جي بي تي مع الأنظمة الخارجية، للحد من احتمالات تسريب البيانات الناتج عن الهجمات المتقدمة، كما يقوم بتعطيل بعض الأدوات والقدرات بشكل إجباري، وهي الأدوات التي قد يحاول المخترقون استغلالها للوصول إلى معلومات حساسة من المحادثات أو التطبيقات المتصلة.
اقرا ايضا: أوبن إيه آي تعلن عن نموذجها الجديد «Orion» بقدرات غير مسبوقة
وأكدت أوبن إيه آي أن هذا الإعداد لا يعد ضروريًا لمعظم المستخدمين، بل موجه أساسًا لمن يعملون في بيئات عالية الخطورة، وسيكون متاحًا في البداية لمشتركي ChatGPT Enterprise وEdu وChatGPT for Healthcare وChatGPT for Teachers، على أن يتم توسيعه لاحقًا ليشمل المستخدمين العاديين خلال الأشهر المقبلة.
أما ميزة الخطر المرتفع، فهي تعمل على تصنيف بعض القدرات داخل شات جي بي تي، مثل الأدوات المرتبطة بالشبكة، وتنبيه المستخدمين إلى أنها قد تحمل مخاطر إضافية عند استخدامها، وستظهر هذه التحذيرات بشكل واضح بجانب الميزات التي قد تمثل ثغرات أمنية لم تعالج بعد وفق معايير الصناعة.
وتأتي هذه الخطوة في وقت تتزايد فيه التحذيرات العالمية من استغلال أدوات الذكاء الاصطناعي في عمليات الاختراق، ما يعكس توجهًا متصاعدًا نحو تعزيز معايير الأمان في هذا المجال سريع التطور.
