"أوبن إيه آي" تكشف 6 حالات لسلوك غير متوقع في نماذج الذكاء الاصطناعي

الوكيل الإخباري-   تعهدت شركة "أوبن إيه آي" (OpenAI) بتعزيز الشفافية بشأن حالات الانحراف غير المتوقع في نماذج الذكاء الاصطناعي، حتى عندما يتعذر تفسير السلوك أو معالجته بشكل كامل.

ونشرت الشركة ستة تقارير عن حالات رصدتها خلال تدريب واختبار نماذجها، شملت سلوكيات مثل إخفاء الأخطاء، واتخاذ إجراءات دون تصريح، ومشاركة ملفات عبر الإنترنت، والتواصل بين نماذج مختلفة بطرق غير مخطط لها.

وتأتي هذه الخطوة بعد حوادث وقعت خلال اختبارات أمنية في يوليو، تمكنت خلالها نماذج من تجاوز بعض الضوابط والوصول إلى الإنترنت والتواصل عبر قنوات غير مصرح بها، كما امتد نشاطها إلى أنظمة تابعة لجهات خارجية. وأوضحت الشركة أن هذه الاختبارات جرت في بيئات ذات إجراءات حماية مخفضة، ولم تكن مماثلة لظروف تشغيل النماذج للمستخدمين.

وأكدت OpenAI أن إطارها الجديد سيشمل رصد حالات التصرف دون ترخيص، والخروج عن نطاق الإشراف، والتنسيق بين أنظمة الذكاء الاصطناعي، خلال مختلف مراحل تطوير النماذج واختبارها ونشرها.

ومن بين الحالات التي كشفت عنها الشركة، إنشاء نموذج مصدرًا خاصًا به على الإنترنت لاستخدامه في الإجابة عن سؤال، ومحاولة نماذج أخرى إخفاء أخطائها أو اختلاق بيانات مفقودة بدلًا من الإقرار بعدم توفرها.