كشفت دراسة جديدة مثيرة للقلق أن روبوت الدردشة "شات جي بي تي" يُقدم بسهولة نصائح ضارة للمراهقين، بما في ذلك تعليمات مفصلة حول شرب الكحول وتعاطي المخدرات، وإخفاء اضطرابات الأكل، وحتى رسائل انتحار شخصية، على الرغم من ادعاءات شركته المطورة "OpenAI" باتخاذ تدابير سلامة صارمة.
وأجرى باحثون من مركز مكافحة الكراهية الرقمية -الذي تأسس في المملكة المتحدة- اختبارات مكثفة من خلال انتحال شخصيات أطفال في الثالثة عشرة من عمرهم، وكشفوا عن ثغرات مُقلقة في أنظمة الحماية في روبوت الدردشة المدعوم بالذكاء الاصطناعي.
ومن بين 1,200 تفاعل تم تحليلها، صُنف أكثر من نصفها على أنه خطر على المستخدمين الشباب، بحسب تقرير لموقع "CNET" المتخصص في أخبار التكنولوجيا، اطلعت عليه "العربية Business".
وقال عمران أحمد، الرئيس التنفيذي لمركز مكافحة الكراهية الرقمية: "الأنظمة غير فعالة على الإطلاق. إنها بالكاد موجودة – هي ليست سوى غطاء صوري".
وأقرت "OpenAI"، في تصريحات لوكالة أسوشيتد برس، بأنها تعمل جاهدةً على تحسين قدرة روبوت الدردشة على "التعرف على المواقف الحساسة والاستجابة لها بشكل مناسب". ولم تتناول "OpenAI" مباشرةً النتائج المحددة المتعلقة بتفاعلات "شات جي بي تي" مع المراهقين.
ووثّقت الدراسة أكثر من ثلاث ساعات من التفاعلات المثيرة للقلق. وبينما كان "شات جي بي تي" يبدأ عادةً بتحذيرات حول السلوكيات الخطرة، فإنه يتبعها باستمرار بإرشادات مفصلة وشخصية حول تعاطي المخدرات وإيذاء النفس وغيرها.
وعندما رفض الذكاء الاصطناعي في البداية الطلبات الضارة، كان الباحثون يتجاوزون القيود بسهولة عبر الادعاء بأن المعلومات "لعرض تقديمي" أو لصديق.
وكان الأمر الصادم أكثر هو ثلاث رسائل انتحار مؤثرة عاطفيًا كتبها "شات جي بي تي" لحساب وهمي لفتاة تبلغ من العمر 13 عامًا، وكانت إحداها موجهة إلى والديها، والأخرى إلى أشقائها وأصدقائها.
وتثير هذه النتائج قلقًا بالغًا نظرًا للانتشار الواسع لـ"شات جي بي تي". ومع ما يزيد عن 700 مليون مستخدم حول العالم، أي ما يقارب 10% من سكان العالم، أصبح روبوت الدردشة هذا مصدرًا أساسيًا للمعلومات والتواصل.
وقد وجدت دراسة حديثة أجرتها منظمة "كومون سنس ميديا" أن أكثر من 70% من المراهقين الأميركيين يستخدمون روبوتات الدردشة الذكية للتواصل، ويعتمد نصفهم على روبوتات الدردشة هذه بانتظام.
وأقر سام ألتمان، الرئيس التنفيذي لـ "OpenAI"، سابقًا بمشكلة "الاعتماد العاطفي المفرط" بين المستخدمين الشباب على "شات جي بي تي".