Yapay zeka kontrolden çıkarsa fişi çekilebilir mi?
Yapay zeka sistemleri için zorunlu “acil kapatma mekanizması” tartışması yeniden gündeme geldi. Anthropic’in kurucu ortaklarından biri, BBC’ye yaptığı açıklamada bu mekanizmaların zorunlu hale getirilmesinin gerekebileceğini belirtti. Ancak uzmanlar, dünyadaki tüm yapay zekayı durdurabilecek tek bir düğmenin olmadığını vurguluyor.
Toronto Üniversitesi’nden yapay zeka ve bilgisayar güvenliği uzmanı Nicolas Papernot, acil kapatma düğmesinin aslında bir AI aracısının yürüttüğü işlemleri kesmek anlamına geldiğini açıkladı. Sistemi çalıştıran kişi veya kuruluş, işlem gücüne erişimi engelleyerek AI’yi durdurabilir. Fakat eğer program ilk çalıştırıldığı ortamın dışına çıkarsa, durum daha karmaşıklaşır. Papernot, kendisini çoğaltabilen bir bilgisayar solucanı yayma senaryosunu örnek göstererek, tüm kopyaların aynı anda durdurulmasının zor olduğunu söyledi. Fransa Ulusal Bilimsel Araştırma Merkezi’nden Thierry Poibeau ise, “bütün yapay zekayı kapatabilecek tek bir düğme” düşüncesinin yanıltıcı olduğunu belirtti. Poibeau, dünya genelinde çok sayıda şirketin farklı yazılımlar ve hizmetler sunduğunu, tek bir kişi veya kurumun tüm AI’yi kontrol etmediğini söyledi. Merkezi bir operatör tarafından yönetilen sistemlerin tek bir düğme ile kapatılması teorik ve pratik olarak mümkünken, merkezi olmayan sistemleri tamamen durdurmak çok daha zor. İşlem gücünün kesilmesi, şirketlerin, kamu kurumlarının ve sağlık kuruluşlarının bağlı olduğu meşru hizmetlerin de durmasına yol açabilir; Papernot, böyle bir müdahalenin maliyetinin ve yaratacağı aksaklıkların “çok büyük” olabileceğini ifade etti.
İnsanlık için yapay zekanın potansiyel tehlikeleri üzerine farklı görüşler hakim. ABD Başkanı Donald Trump, yapay zekanın insanlığın sonunu getirebileceğine dair korkuları “aldatmaca” olarak nitelendirirken, Meta CEO’su Mark Zuckerberg, gelişmenin yavaşlatılması çağrılarına karşı çıktı. Sorbonne Üniversitesi bilgisayar bilimi profesörü Jean‑Gabriel Ganascia ise, “acil kapatma düğmesi” tartışmasının, yapay zekanın kendi iradesini geliştireceği düşüncesini gereğinden fazla öne çıkardığını, en somut tehlikenin ise toplumların bu sistemlere giderek daha bağımlı hale gelmesi olduğunu belirtti.
