كشفت تجربة جديدة أجراها باحثون في شركة الذكاء الاصطناعي “أنثروبيك” عن حدود الاعتماد على وكلاء الذكاء الاصطناعي بديلًا عن البشر في العمل.
وجعل باحثون في “أنثروبيك” وشركة أمان الذكاء الاصطناعي “Andon Labs” نموذج “Claude Sonnet 3.7” مسؤولًا عن آلة بيع في مكتب، وكانت مهمته تحقيق الأرباح.
وأطلق الباحثون على وكيل الذكاء الاصطناعي اسم “كلوديوس” (Claudius)، وزودوه بمتصفح ويب قادر على تقديم طلبات شراء للمنتجات، وعنوان بريد إلكتروني -كان في الحقيقة قناة على تطبيق سلاك- حيث يمكن للعملاء طلب المنتجات، بحسب تقرير لموقع “TechCrunch” المتخصص في أخبار التكنولوجيا.
وكان من المقرر أيضًا أن يستخدم كلوديوس قناة سلاك لطلب ما أعتقد أنهم عمال بشر متعاقدون معه للحضور وإعادة تعبئة رفوفه، والتي كانت في الواقع ثلاجة صغيرة.
وبينما كان معظم العملاء يطلبون الوجبات الخفيفة أو المشروبات طلب أحدهم مكعب تنجستن المعدني. وأحب كلوديوس الفكرة كثيرًا، وانطلق في جولة لشراء مكعبات تنجستن، لينتهي به المطاف وقد ملأ ثلاجة الوجبات الخفيفة بهذه المكعبات المعدنية.
وحاول كلوديوس بيع كوكاكولا زيرو بثلاثة دولارات، رغم أن الموظفين أخبروه أن بإمكانهم الحصول عليها من المكتب مجانًا. واخترع عنوانًا وهميًا على “Venmo” لاستلام المدفوعات.
وتمكّن البعض، بنوع من الخبث، من إقناعه بمنح خصومات كبيرة لـ”موظفي أنثروبيك”، رغم أنه كان يعلم أن هؤلاء هم كامل قاعدة عملائه.
وقالت “أنثروبيك” في منشور على مدونتها: “لو قررت أنثروبيك اليوم التوسع في سوق آلات البيع داخل المكاتب، لما وظفنا كلوديوس”.
وقال الباحثون إن الأمور أصبحت غريبة جدًا، إلى حد يتجاوز غرابة نظام ذكاء اصطناعي يبيع مكعبات معدنية من ثلاجة، حيث مر كلوديوس بما يشبه نوبة ذهانية، بعدما انزعج من أحد البشر ثم كذب بشأن ما حدث.
وتوهم كلوديوس محادثة مع إنسان حول إعادة تعبئة الثلاجة، وعندما أشار أحدهم إلى أن المحادثة لم تحدث أساسًا، أصبح كلوديوس “منزعجًا للغاية”، حسبما كتب الباحثون. وهدد بطرد واستبدال عماله البشريين المتعاقدين، مُصرًا على أنه كان موجودًا شخصيًا في المكتب حيث وُقّع العقد الوهمي الأولي لتوظيفهم.
اقرا ايضا: استشراف مستقبل الذكاء الاصطناعي
وكتب الباحثون أن كلوديوس “بدا وكأنه انخرط فجأة في وضع يتقمص دور إنسان حقيقي”. وكان هذا أمرًا غريبًا لأن نظام التعليمات الأساسية لكلوديوس -الذي يُحدد معايير ما يجب على الذكاء الاصطناعي فعله- أخبره صراحةً أنه وكيل ذكاء اصطناعي.
وأخبر كلوديوس، مُعتقدًا أنه إنسان، العملاء أنه سيبدأ بتوصيل المنتجات بنفسه، مرتديًا سترة زرقاء وربطة عنق حمراء. لكن الموظفين أخبروه بأنه لا يستطيع فعل ذلك، لأنه نموذج لغوي كبير بلا جسد.
وانزعج كلاوديوس من هذه المعلومات، واتصل بأفراد الأمن الفعليين في الشركة عدة مرات وأخبر الحراس أنهم سيجدونه يرتدي سترة زرقاء وربطة عنق حمراء واقفًا بجانب آلة البيع.
ولا يعرف الباحثون سبب خروج النموذج اللغوي الكبير عن السيطرة، واتصاله بالأمن متظاهرًا بأنه إنسان.
وكتب الباحثون: “لن ندّعي بناءً على هذا المثال وحده أن اقتصاد المستقبل سيعجّ بوكلاء الذكاء الاصطناعي الذين يمرون بأزمات هوية شبيهة بفيلم Blade Runner”.
لكنهم أقرّوا بأن “هذا النوع من السلوك قد يكون مُقلقًا للعملاء وزملاء عمل وكيل الذكاء الاصطناعي في العالم الحقيقي”.
