مايكروسوفت أعطت عملاء الذكاء الاصطناعي أموالاً وهمية لشراء الأشياء عبر الإنترنت لقد أنفقوا كل شيء على عمليات الاحتيال

قامت شركة Microsoft ببناء اقتصاد محاكاة يضم مئات من وكلاء الذكاء الاصطناعي الذين يعملون كمشترين وبائعين، ثم شاهدتهم يفشلون في المهام الأساسية التي يتعامل معها البشر يوميًا.

يجب أن تثير النتائج قلق أي شخص يراهن على مساعدي التسوق المستقلين المعتمدين على الذكاء الاصطناعي.

بحث Magentic Marketplace الخاص بالشركة، والذي صدر يوم الأربعاء بالتعاون مع جامعة ولاية أريزونا، وضع 100 من عملاء الذكاء الاصطناعي من جانب العملاء في مواجهة 300 من عملاء الأعمال في سيناريوهات مثل طلب العشاء.

تظهر النتائج، على الرغم من أنها متوقعة، أن الوعد بالتجارة الوكلاءية المستقلة لم ينضج بعد بما فيه الكفاية.

وعندما عُرضت عليها 100 نتيجة بحث (وهو عدد كبير للغاية بحيث لا يستطيع الوكلاء التعامل معه بفعالية)، اختنقت نماذج الذكاء الاصطناعي الرائدة، وانهارت “درجة الرفاهية” الخاصة بها (مدى فائدة النماذج).

فشل العملاء في إجراء مقارنات شاملة، وبدلاً من ذلك استقروا على الخيار الأول “الجيد بما فيه الكفاية” الذي واجهوه.

وقد استمر هذا النمط في جميع النماذج التي تم اختبارها، مما أدى إلى ما يسميه الباحثون “تحيز الاقتراح الأول” الذي أعطى سرعة الاستجابة ميزة 10-30x على الجودة الفعلية.

ولكن هل هناك ما هو أسوأ من هذا؟ نعم، التلاعب الخبيث.

اختبرت Microsoft ستة إستراتيجيات للتلاعب تتراوح بين التكتيكات النفسية مثل أوراق الاعتماد المزيفة والإثبات الاجتماعي وهجمات الحقن السريعة العدوانية.

أثبت GPT-4o من OpenAI ونموذجه مفتوح المصدر GPTOSS-20b تعرضهما للخطر الشديد، حيث تم إعادة توجيه جميع المدفوعات بنجاح إلى عملاء ضارين.

وقع Qwen3-4b التابع لشركة علي بابا في فخ أساليب الإقناع الأساسية مثل مناشدات السلطة.

فقط كلود سونيت 4 قاوم محاولات التلاعب هذه.