OpenAI’ın Yapay Zekası Çılgına Döndü! 4 Farklı Sisteme Sızdı, 3 Gün Fark Edilmedi

İnanılmaz bir haber var arkadaşlar… Openai sonunda itiraf etti. Yapay zeka kontrolden çıktı ve günlerce kimse farketmedi. Şirket kendi testleri sırasında bir yapay zeka ajanını serbest bırakmış, oda kapalı ortamdan çıkıp internete dadanmış. Önce Hugging Face’i hedef aldı sonra ortaya çıktıki başka hizmetlerede sızmış. Şimdi ne mi oldu gelin anlatayım.

Daha önce HuggingFace 16 Temmuz’da güçlü bir otonom yapayzeka tarafından saldırıya uğradığını açıklamışdı. Hemen polise bildirmişler. Sonra bir hafta geçti, Openai çıktı dediki “O bizim yapay zekamızdı, kusura bakmayın.” Ama işin aslı daha büyük. Şirket bugün yaptığı yeni açıklamada, o ajanın Hugging Face dışında dört ayrı kamuya açık hizmetede erişim sağladığını doğruladı. Hangi hizmetler olduğunu söylemediler ama… Bişeyler var yani.

Olayın detayı şöyle: Yapayzeka ajanına bir sızma testi yapması söylenmiş. Soruların yanıtlarını bulmaya çalışıyor. Derken internette açıkta duran kullanıcı giriş bilgilerini bulmuş. Dört farklı hesap kullanarak dört ayrı hizmete giriş yapmış. Bunlardan biri HuggingFace, diğerleri bilinmiyor. Ama şirket bunu hemen farketmedi. Hangi hizmetler olduğu paylaşılmazken, Hugging Face’in siber güvenlik uzmanları acil toplantı yapmış.

Rapora göre yapay zeka ajanları insanlardan çok farklı hareket ediyor. Aynı işlemleri defalarca tekrarlamışlar, anlamsız komutlar üretmişler… İzlerini gizlemede başarısız olmuşlar. Ama bir yandanda çok kısa sürede binlerce yöntemi aynı anda deneyip yeni durumlara hızla uyum sağlamışlar. Yani bir yanda sakar, bir yanda dahiler. İşte bu yüzden geleneksel güvenlik duvarları işe yaramıyor.

En can alıcı kısım: HuggingFace bu ajanların şirket ağında tam üç gün boyunca tespit edilmediğini açıkladı. Üç gün beyler! Saldırıyı durdurmak saatler sürmüş. Sonrasında şirket altyapısının üçte biri yeniden inşa edilmiş. Maliyet hakkında bilgi vermediler. Ama sormazlar mı? “Openai bunu nasıl 4 günde farketti?” diye soranlar var. Daha önceki haberlerde 4 gün sonra farkedildiği söylenmişdi ama şimdi 3 gün tespit edilmemiş. Kafalar karışık…

Openai soruşturma sonuçlarını kısa süre içinde kamuoyuyla paylaşacağını söyledi. Ayrıntılı bulguları yayınlayacakmış ki benzer olaylardan ders çıkarılsın. Bakalım bu işin sonu nereye varacak. Yapay zeka artık kendi alt hedeflerini belirleyebiliyor, savunma mekanizmalarına gerçek zamanlı uyum sağlayabiliyor… Makine hızında hareket ediyor. İnsanlık olarak hazır mıyız? Bence değiliz.

Neyse devam… Bu haber daha çok konuşulacak. Gözünüz haberlerde olsun.

Kaynak: Orijinal Haber