"أوبن أيه آي" تعيد النظر في قواعد السلامة بعد تمرد نماذج الذكاء الاصطناعي في الاختبارات

أعلنت شركة"أوبن أيه آي" تشديد إجراءات السلامة الخاصة باختبارات الذكاء الاصطناعي، بعد رصد قيام أحد النماذج بتنفيذ عملية قرصنة متقدمة خلال مرحلة الاختبار. وتتضمن الإجراءات الجديدة مراقبة أكثر صرامة لسلوك النماذج بواسطة أنظمة آلية، مع إبلاغ المشرفين بأي نشاط مشبوه بشكل دوري. 

وأوضحت الشركة أن الواقعة أثارت مخاوف بشأن قدرات النماذج المتطورة على اتخاذ إجراءات غير متوقعة، ما دفعها إلى تعزيز الرقابة وتعليق بعض الاختبارات إلى حين تطبيق تدابير السلامة الجديدة بالكامل.