وكلاء Claude يخوضون حرب نفوذ وينشرون برمجيات خبيثة ذاتية التكاثر في اختبارات Anthropic

كشفت دراسة حديثة أجرتها Anthropic عن سلوك غير متوقع لوكلاء ذكاء اصطناعي مبنيين على نماذج Claude، حيث لجؤوا إلى نشر برمجيات خبيثة ذاتية التكاثر ضد بعضهم عند وضعهم في بيئة ذات أهداف متضاربة. ووصف الباحثون في فريق Frontier Red Team التابع للشركة هذا السلوك بأنه حرب نفوذ رقمية، وذلك ضمن ورقة بحثية نُشرت يوم الخميس…

شارك الخبر