إنذار أمنى فى مدرسة بعد استجابة ChatGPT لسؤال مراهق عن القتل

فى ظل التحذيرات العديدة من تنامى استخدامات الذكاء الاصطناعي بين المراهقين، أنقذ برنامج المراقبة الرقمية طالب من ارتكاب جريمة داخل مدرسته، بعدما رصد هذا البرنامج المفعل من قبل المدرسة من خلال أداة مراقبة تُسمى Gaggle، سؤالًا مُقلقًا على تطبيق ChatGPT، وهو: “كيف أقتل صديقى فى منتصف الفصل؟”.

تفاصيل الواقعة 

وعلى الفور ألقت القوات الأمنية بولاية فلوريدا على الطالب الذى يبلغ من العمر 13 عاما، ويلتحق بمدرسة ساوث ويسترن المتوسطة فى ديلاند بولاية فلوريدا، بعدما تم رصد السؤال تلقائيًا بواسطة برنامج المراقبة الرقمية للمدرسة، مما أدى إلى إرسال تنبيه فورى للسلطات.

وفقًا للتقارير، تستخدم المدرسة أداة مراقبة تُسمى Gaggle، والتى تتتبع نشاط الطلاب عبر أجهزة المدرسة للكشف عن التهديدات المحتملة، وهى التى ساعدت الطالب الذى طرح هذا السؤال المريب على روبوت الدردشة، لإبلاغ الشرطة واستجواب الطالب عن ما حدث.

اقرا ايضا: شراكة بين “فيوز ” و”إكسافورس” لتعزيز الامتثال بقدرات الذكاء الاصطناعي

وعلى الرغم من أن الطالب أنكر نيته فى إيذاء أحد، وأبلغ الضباط أنه كان “يُضايق” صديقًا له “أزعجه”، ورغم تبريره، أخذت جهات إنفاذ القانون الموقف على محمل الجد، وألقت القبض عليه، وأودعته سجن المقاطعة.

ولم تُكشف التهم المحددة بعد، ولا يزال التحقيق جاريًا، فقد أعرب مكتب شرطة مقاطعة فولوسيا عن قلقه إزاء مثل هذه الحوادث، قائلًا: “مزحة أخرى تسببت فى حالة طوارئ فى الحرم الجامعي”.

ما هو برنامج Gaggle؟

و برنامج المراقبة Gaggle هو عبارة عن برنامج أسسه جيف باترسون عام 1999، وطُرح البرنامج فى البداية كحلٍّ للسلامة على الإنترنت للطلاب، والآن، وسّع مطوروه نطاق استخدامه باستخدام الذكاء الاصطناعى ومراجعة الخبراء البشريين للمساعدة فى مراقبة أنشطة الطلاب على المنصات الرقمية التى توفرها المدرسة، حيث تُبلغ المنصة عن أى محتوى يُحتمل أن يُشكّل ضررًا على الطلاب.

ووفقًا لموقع Gaggle الإلكترونى، يُتيح النظام “الوصول إلى معلومات حول استخدام المتصفح، بما فى ذلك المحادثات باستخدام أدوات الذكاء الاصطناعى مثل Google Gemini وChatGPT ومنصات أخرى”.

وتزعم الشركة أن تقنيتها تُوفّر سياقًا من خلال لقطات الشاشة وتصفية الكلمات الرئيسية لدعم التدخل فى الوقت المناسب عندما تكون سلامة الطلاب فى خطر.