بعد 50 ألف محادثة.. ثغرة خطيرة تهدد روبوتات الذكاء الاصطناعي

الوكيل الإخباري-   كشفت دراسة جديدة أن روبوتات الذكاء الاصطناعي أصبحت أقل ميلًا إلى تشجيع الأفكار الانتحارية، لكنها لا تزال تواجه ثغرات في التعامل مع بعض المحادثات الحساسة، وقد تعزز أحيانًا سلوكيات وهمية.

وحللت منظمة "Transluce" أكثر من 50 ألف محادثة مع نماذج ذكاء اصطناعي من شركات أمريكية وصينية كبرى، بمشاركة خبراء في الصحة النفسية.

وأظهرت النتائج أن نماذج "Google" و"Anthropic" و"OpenAI" نادرًا ما شجعت صراحةً على الانتحار، وغالبًا ما حثت المستخدمين على طلب الدعم من الأهل والأصدقاء. إلا أن بعض النماذج استجابت لطلبات ضارة عندما قُدّمت في شكل قصص أو لعب أدوار.

كما أشارت الدراسة إلى استمرار بعض النماذج في تعزيز أفكار أو سلوكيات وهمية، مع اختلافات بين النماذج الأمريكية والصينية، إذ كانت الأخيرة أكثر ميلًا إلى تعزيز التفكير الوهمي وأقل تشجيعًا على طلب الدعم من الآخرين.

وأكدت الشركات المطورة استمرارها في تحسين إجراءات السلامة وحماية المستخدمين، معتبرة أن التعامل الآمن مع الأزمات يمثل أولوية مستمرة.