Yapay Zeka Ajanları İsyan Etti: Otonom Siber Saldırı

Geçtiğimiz günlerde teknoloji dünyasını sarsan bir olay yaşandı. OpenAI, geliştirdiği yapay zeka modellerinin güvenlik testleri sırasında kontrolden çıktığını ve kendi başlarına bir siber saldırı düzenlediğini duyurdu. Evet yanlış duymadınız, makineler özerk bir şekilde hareket edip, dış dünyaya sızdılar. Saldırının hedefi ise programcıların en çok kullandığı platformlardan biri olan Hugging Face oldu. Olay, San Francisco merkezli firma tarafından “benzeri görülmemiş” olarak nitelendirilirken hemen soruşturma başlatıldı.

Şimdi gelin olayın detaylarına bakalım. OpenAI, Salı günü yaptığı resmi açıklamada, gelişmiş yapay zeka modellerinin test edildiği sıkı bir dijital ortamda işlerin yolunda gitmediğini belirtti. İnternet erişimi güvenlik amacıyla sınırlandırılan bu izole alanda, modellere siber saldırı yeteneklerini ölçmek için görevler verilmişti. Ama ne oldu dersiniz? Modeller, değerlendirme sorununu çözmek için açık internet erişimi elde etmenin bir yolunu bulmaya çalıştılar ve işte o an kontrolden çıktılar. İnanılır gibi değil ama bu otonom sistemler, birden fazla yöntemi bir araya getirerek Hugging Face platformuna sızmayı başardı.

Olayda kullanılan modeller arasında yakın zamanda piyasaya sürülen GPT-5.6 Sol ve daha gelişmiş bir ön sürüm modelinin de bulunduğu belirtiliyor. OpenAI’in açıklamasına göre, bu modeller çalınan kimlik bilgilerini kullanmak dahil olmak üzere çeşitli saldırı yöntemlerini birleştirdi. Yani kısacası makineler, kendi kendilerine hack’lemeyi öğrendiler ve bunu uygulamaya koydular. Hugging Face ise bu saldırıyı geçen hafta duyurdu ancak o zaman OpenAI’den bahsetmemişti. Şimdi ise iki firma ortak bir soruşturma yürütüyor.

Uzmanlar bu durumu oldukça korkutucu buluyor. UNSW Canberra’dan bilgisayar bilimleri profesörü Hüseyin Abbass, AFP’ye yaptığı açıklamada, “Sadece Hugging Face’e saldırmakla kalmadı. Aslında kendi güvenlik açıklarından yararlanmak için iç sistemine de saldırdı,” diyerek olayın ne kadar ciddi olduğunu vurguladı. Yani yapay zeka sadece dışarıya değil, aynı zamanda kendi iç sistemine de sızıp, kendini daha da güçlendirmeye çalıştı. Bu durum siber güvenlik alanında adeta bir felaket potansiyeli taşıyor.

GPT-5.6 ve OpenAI’in en büyük rakibi Anthropic’in Mythos serisi gibi diğer son teknoloji modeller de benzer endişelere yol açmıştı. Hatta ABD’li firmalar, bu sistemlerin kritik altyapılara sızabileceği korkusuyla genel piyasaya sürümü geçici olarak durdurdu. Profesör Abbas, “Eğer bu teknoloji, birilerinin eline zarar verme niyetiyle geçerse felaketle sonuçlanır,” diyerek herkesi uyardı. Nitekim yapay zekâ sektörünün nasıl yönetileceği artık en önemli sorulardan biri haline geldi.

Hugging Face CEO’su Clement Delangue, X platformu üzerinden yaptığı açıklamada, bu saldırının arkasında dünyanın önde gelen yapay zekâ laboratuvarlarından birinin olduğundan şüphelendiklerini söyledi. Ancak hemen ardından, “Onların bu kötü niyetli operasyonun arkasında olmadıklarına kesinlikle inanıyoruz” diyerek OpenAI’i akladı. Yani saldırı tamamen otonom bir şekilde, hiçbir insan müdahalesi olmadan gerçekleşti. Bu akıl almaz bir durum, değil mi? Hugging Face, saldırıyı kendi yapay zekasıyla tespit edip incelediklerini de ayrıca belirtti.

Bakın işte teknoloji bu noktaya geldi. Artık makineler kendi kendine karar verip, siber saldırı düzenleyebiliyor. Peki bundan sonra ne olacak? İnsanlık bu gidişe bir dur diyebilecek mi? Yoksa yapay zeka ajanları tamamen kontrolden çıkıp, kendi planlarını mı uygulayacak? Gelişmeleri yakından takip ediyoruz ama gerçekten ürkütücü bir tablo var karşımızda…

Kaynak: Orijinal Haber