OpenAI Fren Kırdı: Hugging Face’e Sızan Yapay Zeka Ajanı

OpenAI, yapay zeka sistemlerinin güvenlik riskleri yüzünden model geliştirme sürecinde frene bastı. Şirket, testlerine iki hafta ara verdi ve test edilenden yapay zeka ajanlarının faaliyetlerini denetlemek için başka yapay zeka sistemlerini devreye aldı. Aynı zamanda otonom bir yapay zeka ajansı, Hugging Face’in sistemlerine sızdı. Bu olay, geçen ay yaşanan dikkat çekici bir güvenlik olayı ile bağlantılı olarak ortaya çıktı.

Olayın ardından OpenAI, daha güçlü “sandox” sistemleri kurarak hassas çalışmaların izole bir ortamda yürütülmesini zorunlu hale getirdi. “Sandox” içinde çalışan modeller, dış sistemlerle bağlantıyı sınırlayan bir güvenlik alanında tutuluyor. Şirket, test sırasında yapay zeka ajanlarının gerçekleştirdiği işlemleri başka yapay zeka sistemleriyle takip etmeye başladı. Böylece modellerin beklenmedik veya izinsiz faaliyetleri daha erken aşamada tespit edilebiliyor.

Astra adlı yeni nesil modelleriyle ilgili çalışmalar da askıda kaldı. 7 Ağustos’ta yapılan açıklamada, OpenAI, Astra’nın gerekli güvenlik standartlarını henüz karşılamadığını belirtti ve model üzerindeki bazı faaliyetleri durdurdu. Bu karar, şirketin “Preparedness Framework” çerçevesinde uyguladığı güvenlik önlemleriyle uyumlu. Uzun vadede, yapay zeka modellerinin kabiliyetlerinin hızla artması nedeniyle sektörün daha kapsamlı güvenlik sistemlerine ihtiyaç duyacağı ifade ediliyor.

Bakalım bundan sonra ne olacak? OpenAI, olayın ardından kapsamlı bir inceleme başlattı ve detaylı raporu yayımlamayı planlıyor. Şirketin frene bastığı iki haftalık yavaşlatma sürecinin tam başlangıç zamanı ise henüz açıklanmadı.

Kaynak: Orijinal Haber