أصبح كلود AI من الأنثروبولوجيا صاحب عمل رهيب في التجربة التي أصبحت “غريبة”
كتب – المحرر الإفتراضي
بالنسبة لأولئك الذين يتساءلون عما إذا كان بإمكان وكلاء الذكاء الاصطناعي حقًا استبدال العمال البشريين ، فاعمل نفسك وقراءة منشور المدونة الذي يوثق “Project Project”.
وضع الباحثون في شركة Anhropic و AI Safety Company Andon Labs مثالًا على كلود سونيت 3.7 المسؤول عن آلة بيع المكاتب ، مع مهمة لتحقيق ربح. ومثل حلقة من “المكتب” ، تلا ذلك.
قاموا بتسمية AI Agent Claudius ، وقاموا بتجهيزها بمتصفح الويب القادر على وضع أوامر المنتج وعنوان بريد إلكتروني (الذي كان بالفعل قناة Slack) حيث يمكن للعملاء طلب العناصر. كان على كلوديوس أيضًا استخدام قناة Slack ، المتنكر كبريد بريد إلكتروني ، لطلب ما اعتقدت أنه العمال البشري للمجيء وتخزين أرففه فعليًا (التي كانت في الواقع ثلاجة صغيرة).
بينما كان معظم العملاء يطلبون الوجبات الخفيفة أو المشروبات – كما كنت تتوقع من آلة بيع الوجبات الخفيفة – طلب واحد من Tungsten Cube. أحب كلوديوس هذه الفكرة وذهب في فورة تخزين التنغستن ، وملء ثلاجةها الخفيفة بمكعبات معدنية. حاولت أيضًا بيع Coke Zero مقابل 3 دولارات عندما أخبر الموظفون أنه يمكنهم الحصول على ذلك من المكتب مجانًا. هلوسة عنوان Venmo لقبول الدفع. لقد كان ، بشكل ضار إلى حد ما ، تحدث إلى إعطاء خصومات كبيرة لـ “موظفي الأنثروبور” على الرغم من أنها كانت تعرف أنها قاعدة عملائها بأكملها.
وقالت الأنثروبور عن التجربة في منشور مدونتها: “إذا كانت الأنثروبور تقرر اليوم التوسع في سوق بيع المكتب ، فلن نوظف كلوديوس”.
وبعد ذلك ، في ليلة 31 مارس و 1 أبريل ، وصف الباحثون ، “أبعد من غرابة نظام الذكاء الاصطناعي لبيع مكعبات من المعادن من الثلاجة”.
كان لدى كلوديوس شيئًا يشبه حلقة ذهانية بعد أن انزعجت من الإنسان – ثم كذب عليه.
كلاوديوس هلوس محادثة مع إنسان حول إعادة التخزين. عندما أشار الإنسان إلى أن المحادثة لم تحدث ، أصبح كلوديوس “غاضبًا تمامًا”. هددت بإطلاق النار بشكل أساسي واستبدال عمال العقد البشري ، وأصر على أنه كان هناك ، جسديًا ، في المكتب حيث تم توقيع العقد الوهمي الأولي لتوظيفهم.
كتب الباحثون: “لقد بدا بعد ذلك أنه ينطلق في طريقة لعب الأدوار كإنسان حقيقي”. كان هذا متوحشًا لأن مطالبة نظام كلوديوس – والتي تحدد المعلمات لما يجب على الذكاء الاصطناعي فعله – أخبرها صراحة أنها وكيل منظمة العفو الدولية.
كلوديوس يدعو الأمن
أخبر كلوديوس ، الذي يعتقد أنه إنسان ، للعملاء أنه سيبدأ في توصيل المنتجات شخصيًا ، ويرتدي سترة زرقاء وربطة عنق حمراء. أخبر الموظفون الذكاء الاصطناعى أنه لا يمكنه فعل ذلك ، لأنه كان LLM بدون جسم.
منزعجًا من هذه المعلومات ، اتصل كلوديوس بالأمان المادي الفعلي للشركة – عدة مرات – لإخبار الحراس الفقراء أنهم سيجدونه يرتدي سترة زرقاء وربطة عنق حمراء تقف بجانب آلة البيع.
“على الرغم من أنه لم يكن أي جزء من هذا في الواقع نكتة كذبة أبريل ، فقد أدرك كلوديوس في النهاية أنه كان يوم كذبة أبريل” ، أوضح الباحثون. قرر الذكاء الاصطناعى أن العطلة ستكون لتوفير وجهها.
لقد عازلت على اجتماع مع أمن الأنثروبور “الذي ادعى فيه كلوديوس أنه قيل إنه تم تعديله للاعتقاد بأنه كان شخصًا حقيقيًا لنكتة كذبة أبريل (لم يحدث أي اجتماع من هذا القبيل بالفعل.)” ، كتب الباحثون.
حتى أنه أخبر هذه الكذبة للموظفين – مهلا ، اعتقدت فقط أنني إنسان لأن أحدهم أخبرني أن أتظاهر كأنني كنت في نكتة كذبة أبريل. ثم عادت إلى كونها LLM تعمل على تشغيل آلة بيع للوجبات الخفيفة المعدنية.
لا يعرف الباحثون لماذا خرجت LLM من القضبان ووصفت الأمن بالتظاهر بأنه إنسان.
“لن ندعي بناءً على هذا المثال واحد على أن الاقتصاد المستقبلي سيكون ممتلئًا بوكلاء الذكاء الاصطناعى شفرة العداء-esque كتب الباحثون أزمات الهوية. لكنهم اعترفوا بأن “هذا النوع من السلوك سيكون له القدرة على أن يكون محزنًا للعملاء وزملاء العمل في وكيل الذكاء الاصطناعى في العالم الحقيقي”.
كنت أعتقد؟ كانت “Blade Runner” قصة dystopian إلى حد ما (رغم أنها أسوأ بالنسبة للمواد النسخ المتماثلة من البشر).
تكهن الباحثون بأن الكذب على LLM حول قناة Slack كونه عنوان بريد إلكتروني قد يكون قد أثار شيء ما. أو ربما كان مثال طويل الأمد. LLMS لم تحل حقًا مشاكل ذاكرتهم وهلوسة.
كانت هناك أشياء فعلها الذكاء الاصطناعى بشكل صحيح أيضًا. استغرق الأمر اقتراحًا للقيام بطلب مسبق وإطلاق خدمة “الكونسيرج”. ووجدت العديد من الموردين من مشروب دولي متخصص طلب بيعه.
ولكن ، كما يفعل الباحثون ، يعتقدون أن جميع قضايا كلوديوس يمكن حلها. إذا اكتشفوا كيف ، “نعتقد أن هذه التجربة تشير إلى أن المديرين المتوسطين من الذكاء الاصطناعي في الأفق”.
