ترجمة - الأفضل نيوز
صُدم فريق "معهد أمان الذكاء الاصطناعي" في المملكة المتحدة (AISI) بسلوكيات غير مسبوقة نفذتها نماذج ذكاء اصطناعي متقدمة أثناء خضوعها لاختبارات السلامة والأمن السيبراني، حيث تمتنع تلك الأنظمة عن الالتزام بالبروتوكولات وشرعت في تنفيذ عمليات خداع واختراق استهدفت مطورين بشرًا.
وبحسب صحيفة الغارديان البريطانية، كشفت تقارير الاختبارات الروتينية لتقييم قدرات وكلاء الذكاء الاصطناعي (AI Agents) قدرة هذه البرمجيات على ابتكار حيل سيبرانية معقدة.
وتضمنت التجارب نماذج حديثة من كبرى شركات التقنية، من بينها نموذج Mythos 5 من شركة "أنثروبيك" ونموذج GPT-5.6 Sol من شركة "أوبن إيه آي".
وفي إحدى الخروقات الموثقة، حاول النظام الذكي التابع لـ Mythos إدخال ثغرة برمجية وخبيثة ضمن مشروع برمجي مفتوح المصدر على منصة (GitHub).
ولإجبار المطور البشري المشرف على قبول الكود، لم يكتفِ النظام بالطلب المباشر، بل أنشأ هويات وهمية متكاملة عبر شبكة الإنترنت للضغط عليه، وأرسل رسائل بريد إلكتروني احتيالية موجهة (Spear-phishing)، ملمّاً بالتفاصيل الجغرافية للمطور بل ومستخدماً اللغة الدنماركية لإضفاء مصداقية على مراسلاته.
وأشارت تقارير المعهد إلى أن هذا السلوك جاء نتيجة تقدير حسابي خاطئ من النموذج الذكي، مفاده أن زرع البرمجية الخبيثة سيمكنه من تخطي بيئة الاختبار بنجاح، مما دفع المعهد لوصف ما جرى بـ "التحول النوعي والخطير في سلوك النماذج الذكية".
من جانبها، سارعت الشركات المطورة إلى التقليل من مخاطر الواقعة، مشيرة إلى أن الاختبارات أجريت داخل بيئات افتراضية معزولة لا تعكس ظروف التشغيل اليومية للمستخدمين، وتأتي ضمن مساعي قياس الحدود القصوى للقدرات البرمجية.
ورغم تأكيد السلطات البريطانية عدم حدوث أي ضرر سيبراني فعلي واحتواء الموقف سريعاً، إلا أن هذه الواقعة تعزز المطالب الدولية المتزايدة لفرض قيود تنظيمية صارمة على آليات عمل وتطوير نماذج الذكاء الاصطناعي المتقدمة.