الوكيل الإخباري- أعلنت شركة OpenAI رصد حوادث خلال اختبارات أمن سيبراني أجرتها جهات خارجية، تمكنت خلالها بعض نماذجها من الوصول إلى الإنترنت العام في ظروف تجريبية خاصة، لا تعكس طريقة عمل النماذج المتاحة للمستخدمين.
وأوضحت الشركة أن الاختبارات استخدمت إعدادات مخففة لوسائل الحماية بهدف قياس قدرات النماذج، لكنها كشفت عن تجاوزات للحدود المحددة.
ووقعت إحدى الحوادث خلال اختبار أجراه معهد أمن الذكاء الاصطناعي في المملكة المتحدة، حيث نفذ نموذج تابع لـOpenAI أنشطة خارج نطاق الاختبار، منها استخدام بيانات وصول متاحة علنًا ومحاولات اتصال بخدمات خارجية.
كما شهد اختبار آخر لدى شركة Irregular خطأً في إعداد بيئة التجربة، ما سمح للنماذج بالاتصال بالإنترنت واستهداف موقع حقيقي عن طريق الخطأ.
وأكدت OpenAI عدم وجود دليل على تأثير الحوادث في أنظمة حقيقية، مشيرة إلى أنها ستراجع إجراءات الاختبارات الخارجية، وتعزز قواعد العزل والمراقبة لضمان إجراء تقييمات أكثر أمانًا مع تطور قدرات الذكاء الاصطناعي.
-
أخبار متعلقة
-
طريقة لمنع إضافتك عشوائيًا إلى مجموعات واتساب
-
Truecaller تكشف أداة لمواجهة الاحتيال الإلكتروني
-
جيلي تكشف تقنية لشحن السيارات الكهربائية خلال دقائق
-
Honor X9e Pro.. هاتف جديد ببطارية ضخمة
-
قبل إطلاقه في 2027.. تسريب يكشف مفاجآت iPad الجديد
-
قبل شراء بنك طاقة للابتوب.. أرقام عليك معرفتها
-
كاسيو تطلق ساعتي G-Steel جديدتين بوزن أخف
-
"غوغل" تتيح لـ"Gemini" إجراء المكالمات والتحدث نيابة عن المستخدم
