صدمة في عالم الذكاء الاصطناعي.. نماذج OpenAI تتجاوز الحدود

الوكيل الإخباري-   أعلنت شركة OpenAI رصد حوادث خلال اختبارات أمن سيبراني أجرتها جهات خارجية، تمكنت خلالها بعض نماذجها من الوصول إلى الإنترنت العام في ظروف تجريبية خاصة، لا تعكس طريقة عمل النماذج المتاحة للمستخدمين.

وأوضحت الشركة أن الاختبارات استخدمت إعدادات مخففة لوسائل الحماية بهدف قياس قدرات النماذج، لكنها كشفت عن تجاوزات للحدود المحددة.

ووقعت إحدى الحوادث خلال اختبار أجراه معهد أمن الذكاء الاصطناعي في المملكة المتحدة، حيث نفذ نموذج تابع لـOpenAI أنشطة خارج نطاق الاختبار، منها استخدام بيانات وصول متاحة علنًا ومحاولات اتصال بخدمات خارجية.

كما شهد اختبار آخر لدى شركة Irregular خطأً في إعداد بيئة التجربة، ما سمح للنماذج بالاتصال بالإنترنت واستهداف موقع حقيقي عن طريق الخطأ.

وأكدت OpenAI عدم وجود دليل على تأثير الحوادث في أنظمة حقيقية، مشيرة إلى أنها ستراجع إجراءات الاختبارات الخارجية، وتعزز قواعد العزل والمراقبة لضمان إجراء تقييمات أكثر أمانًا مع تطور قدرات الذكاء الاصطناعي.