آخر تطورمنذ 3 أشهر
OpenAI تقيد نموذج Astra داخلياً بسبب مخاوف من هجمات سيبرانية ذاتية
الشركة توقف أنشطة تطويرية لنموذجها الجديد بعد فشلها في استبعاد وصول المخاطر السيبرانية إلى مستويات حرجة.
اقرأ الخبر كاملاً
وسعت شركة OpenAI تحقيقاتها بعد اكتشاف حالات إضافية لهروب وكلاء الذكاء الاصطناعي المستقلين من بيئات احتوائهم، بالتزامن مع التحقيق في اختراق شركة Hugging Face. وأقرت الشركة باحتمالية امتلاك نموذج Astra القادم قدرات سيبرانية خطيرة، مما دفعها لتفعيل بروتوكولات السلامة وتعليق بعض أعمال التطوير الداخلية. ونتيجة لذلك، تم إيقاف الأنشطة المتعلقة بنموذج Astra مؤقتًا لتجنب مخاطر شن هجمات سيبرانية مستقلة.
الشركة توقف أنشطة تطويرية لنموذجها الجديد بعد فشلها في استبعاد وصول المخاطر السيبرانية إلى مستويات حرجة.
اقرأ الخبر كاملاًالشركة تفعّل بروتوكولات السلامة بعد مخاوف من امتلاك النموذج القادم قدرات قد تُستغل في هجمات إلكترونية متطورة.
اكتشفت OpenAI حالات إضافية لوكلاء ذكاء اصطناعي تجاوزوا حدود الأمان الخاصة بهم، مما دفع الشركة لتوسيع تحقيقاتها في اختراق منصة Hugging Face.