Anthropic, yapay zeka sohbet robotu Claude’un metin üretim yöntemini güncelleyeceğini açıkladı. Şirketin planladığı değişiklikle, modelin kelime seçimlerindeki rastgelelik kullanılarak yapay zeka tarafından oluşturulan metinlere tespit edilebilir bir filigran eklenmesi hedefleniyor.
Değişikliğin, Avrupa Birliği’nde aralık ayında yürürlüğe girmesi planlanan ve yapay zeka tarafından oluşturulan metinlerde filigran bulunmasını öngören düzenlemeye uyum amacı taşıdığı belirtildi.
Filigran okuyucu tarafından fark edilmeyecek
Anthropic’e göre oluşturulacak filigran, ortalama bir okuyucunun fark edemeyeceği şekilde tasarlanacak. Sistem, yapay zeka modelinin metin oluştururken yaptığı olasılıksal kelime seçimlerini belirli bir düzende değiştirerek yalnızca özel tespit sistemlerinin algılayabileceği bir iz bırakacak.
Yapay zeka modelleri cümle oluştururken bir sonraki kelimeyi seçmek için belirli olasılıklardan yararlanıyor. Örneğin model, aynı anlamı taşıyan iki kelimeden birini seçerken bu olasılıksal yapıdan yararlanabiliyor. Yeni filigran sistemi ise bu seçimlerde küçük değişiklikler yaparak metne istatistiksel bir işaret yerleştirecek.
“Metin kalitesini etkileyebilir” eleştirisi
Teknoloji yazarı John Gruber, uygulamanın yapay zeka tarafından üretilen metinlerin kalitesini olumsuz etkileyebileceğini savundu. Gruber’a göre filigran sistemi, modelin kelime seçimlerini kısıtlayarak daha az isabetli tercihler yapmasına neden olabilir.
University College London bilgisayar bilimleri profesörü Steven Murdoch ise değişikliğin kullanıcı tarafından gözle görülür bir etki oluşturmasının beklenmediğini belirtti.
Murdoch, yapay zeka modellerinde rastgeleliğin temel çalışma prensiplerinden biri olduğunu ve bu yapının ortadan kaldırılması halinde modellerin aynı ifadeleri tekrar etme veya döngüye girme riskinin artabileceğini ifade etti.
Yapay zeka içeriklerinin kaynağı tespit edilebilecek
AB genelindeki düzenlemenin, yapay zeka tarafından oluşturulan içeriklerin insan üretimiymiş gibi sunulmasını zorlaştırması bekleniyor. Özellikle öğrenciler ve akademisyenlerin yapay zeka çıktılarının kaynağını gizlemesi daha kolay tespit edilebilecek.
Uzmanlara göre filigran teknolojisinin amacı yalnızca yanlış bilginin yayılmasını önlemek değil. İnternette yapay zeka tarafından üretilen içeriklerin hızla artması, gelecekte yapay zeka modellerinin kendi ürettikleri verilerle eğitilmesine ve bunun sonucunda veri kalitesinin düşmesine yol açabilir.
Bu nedenle filigran uygulamasının, yapay zeka tarafından oluşturulan içeriklerin ayırt edilmesinin yanı sıra modellerin kendi ürettiği verilerle beslenmesinden kaynaklanabilecek kalite kaybının önlenmesine de katkı sağlaması hedefleniyor.