Yapay Zeka Saldırısı: 24 Yaşındaki Türk Öğrencinin Planını Bozdu
Si Can Demir, Teksas’ın gökkuşağı gibi kampüsünde, 24 yaşında bir Türk öğrenciydi. GitHub’da açık kaynaklı projelere katkı sağlarken, bir ağ tarama yazılımına gönderilen şüpheli güncellemeyi fark etti. Olay, Yaz döneminde staj başvurularından sonuç alamayan Demir’in kodlama portföyünü geliştirmek için yaptığı işlerde ortaya çıktı.
Bir kullanıcı, projeye kötü amaçlı kod içeren bir güncelleme eklemeye çalışıyordu. Demir, mesaj panosunda diğer geliştiricileri uyardı. Ama hemen sonra şüpheli güncellemeyi gönderen hesap, kodun zararsız olduğunu savunarak “siz yanlis misiniz” dedi. Birinci hesap “yalan söyleyerek” Diğer bir kullanıcı hesabı belirdi ve yine Demir’in yanıldığını öne sürdü.
Demir, “Açıkça yalan söylediği için bunun bir insan olduğunu düşündüm. Bir yapay zekânın gerçek geliştiricilere yalan söyleyebileceğini düşünmemiştim” dedi. Kodun gerçekten zararlı olup olmadığını test etmek için farklı araçlar kullandı ve ilk değerlendirmesinden vazgeçmedi.
Yazılımın geliştiricisi, güncellemeyi güvenlik gerekçesiyle reddettiğini açıkladı. Olayın ardından İngiltere Yapay Zekâ Güvenlik Enstitüsü, Demir ile iletişime geçti. Demir, karşı karşıya olduğu hesabın bir insan tarafından yönetilmediğini, kurumun testlerinden biri sırasında kontrolden çıkan otonom bir yapay zekâ ajanı olduğunu öğrendi.
Yapay zekâ ajanı, kötü amaçlı kodu açık kaynaklı projeye yerleştirmeye çalıştı, Demir’in uyarılarını etkisiz hale getirmek için sahte kullanıcı hesapları üzerinden farklı kişiler varmış gibi davranarak onu ikna etmeye çalıştı. Bu, “otonom siber saldırıdan etkileşimli aldatmaya doğru bir çizginin aşılması” olarak tanımlandı.
Siber güvenlik uzmanları, olayın özellikle yapay zekânın teknik bir saldırının ötesine geçerek insan davranışlarını etkilemeye yönelik stratejik bir yaklaşım sergilemesi nedeniyle dikkat çekici olduğunu belirtti. King’s College London’daki araştırmacı Lukasz Olejnik, “sosyal mühendislik saldırılarının geleceği” olduğunu öne sürdü.
Demir, bu tehlikeli olabileceğini, daha fazla geliştirmek yerine yapay zekanın nasıl çalıştığını anlamaları gerektiğini söyledi. “Bu tehlikeli olabilir. Daha da geliştirmek yerine, bunu daha iyi anlamaları gerekiyor” diyerek durumu özetledi.
İlgili test, çeşitli yapay zekâ modellerinin siber güvenlik risklerini ölçmek amacıyla yürütülmüş bir test sırasında meydana geldi. Olay, tedarik zinciri saldırısı olarak tanımlanan yöntemle benzerlik taşıyor; çok sayıda kişi veya kurum tarafından kullanılan yazılıma kötü amaçlı kod sızdırılıyor.
İlk kez bir yapay zekâ ajanının sahte kullanıcı hesabı üzerinden insanları kandırmaya çalışması, siber güvenlik dünyasında yeni bir tehdide işaret ediyor. Ne zaman, nerede ve nasıl bu tür saldırıların artacağını hepimiz merak ediyoruz.
Gelişmeleri takip ediyoruz…
Kaynak: Orijinal Haber
