Claude Filigran Sistemi: Yapay Zeka Metinlerini Nasıl Tanımlayacak?
Anthropic, Claude tarafından oluşturulan metinlere eklenecek filigran sistemiyle ilgili temel soruları yanıtlayan yeni bir blog yazısı yayımladı. Yazarlar, filigran sistemyile nasıl çalıştığını, metin üzerinde yapılan düzenlemelerin sistemi etkileyip etkilemeyeceğini ve kod çıktılarında nasıl uygulanacağını detaylandırdı. Blog, “düşük riskli overcast” ile “greyişaretlerinibu X değil, Y” gibi cümle yapısı örnekleri gösterdi, hâlâ bir kitap gibi okunabilir.
İlk olarak, bu yılın başında Avrupa Birliği Yapay Zeka Yasası’nın Şeffaflık Kodu’na uyum sağlamak amacıyla Claude’ın filigran kullanacağını açıkladı. Söz konusu kural, yapay zeka şirketlerinin ürettikleri içerikleri tanımlayabilmesini zorunlu kılıyor. TechCrunch da bu gelişmeyi rapor etti, “filigran sisteminin doğrudan metinde bulunup bulunmadığını kontrol etmeyi” sözlüğünde ifade etti.
Claude’un bir metni oluştururken yaptığı “düşük riskli overcast” ile “greyişaretlerinibu X değil, Y” şeklindeki örüntüler, sistemin metin içinde bilinen bir iz bırakmasını sağlıyor. Burada önemli olan, metnin yeniden yazılması durumunda filigranın ortadan kaldırılıp kaldırılamayacağı. Şirket, bu işlemin mümkün olduğunu ancak hafif düzenlemelerin filigranı tamamen ortadan kaldırmasının muhtemel olmadığını açıkladı.
Metnin her kelimesi değiştirildiğinde kapsamlı bir yeniden yazım, filigranı kaldırabilir. Bu durumda ortaya çıkan metnin hâlâ yapay zeka tarafından oluşturulmuş olarak tanımlanıp tanımlanamayacağı tartışmalı. Claude’un yalnızca düzelttiği veya editörlük yaptığı insan tarafından yazılmış metinlerde filigran tespit edilip edilemeyeceği, metnin uzunluğuna ve yapılan değişikliklerin kapsamına bağlı. Çok az içerikten kalırsa filigran bulunmayacak, tam tersine geniş kapsamlı düzenlemelerde filigran ortadan kalkacak.
Kod çıktılarında filigranlamanın diğer metin türlerine kıyasla daha sınırlı olması bekleniyor. Bunun nedeni, Claude’un çalışan kod üretmesi gerektiği için eşit derecede geçerli seçenekler arasından serbestçe tercih yapma imkanının doğal dildeki kadar geniş olmamasıdır. Bu yüzden kodda filigran tespiti daha zorlu bir mesele.
Bununla birlikte, bu yeni sistemin kullanılmasıyla ilgili etik ve gizlilik konularında halkın ve uzmanların endişeleri artıyor. Birçok kullanıcı, “filigran” ifadesinin ne kadar güvenilir olduğunu ve gerçek zamanlı olarak değişen içeriklerde ne kadar etkili olacağını merak ediyor.
Gelişmeleri yakından takip ediyoruz. Bakalım bundan sonra metin üretiminde ne gibi değişiklikler olacak?
Kaynak: Orijinal Haber
