OpenAI, Avrupa Birliği’ndaki metin ve kod çıktılarında görünmez bir dijital filigran kullanmayı hedefliyor. Bu sistem, AB Yapay Zeka Yasası’nın üretken yapay zeka çıktılarını makinece okunabilir biçimde tanımlama zorunluluğuna uygun olarak geliştiriliyor.
Filigranın Çalışma Prensibi
OpenAI’nin tescilli textGrain sistemi, modelin kelime seçimlerine görünmez istatistiksel bir sinyal ekliyor. Bir algılayıcı ise bu sinyalleri inceleyerek metinde filigran bulunup bulunmadığını tespit edebiliyor. Filigran, varsayılan olarak devre dışı bırakılmış durumda; ancak AB’deki ChatGPT ve Codex çıktıları bu uygulamanın istisnası olarak kabul ediliyor.
Algılama Performansı ve Sınırlamalar
Şirket, ideal koşullarda yüksek performansın günlük kullanımda güvenilir tespiti garanti etmediğini belirtiyor. Kısa metinlerde ve matematiksel içeriklerde tespit başarısı yaklaşık %80 seviyesinde kalıyor; metnin düzenlenmesi bu oranı düşürüyor. Algılayıcıya ilk aşamada yalnızca onaylı araştırmacılar ve uzman kuruluşlar erişebilecek.
Gelecek Planları ve Açık Kaynaklı Yaklaşım
OpenAI, teknolojiyi başkalarının uyarlayabilmesi için açık kaynaklı hale getirmeyi planlıyor. Algılayıcının kullanıcıyı belirlemediği, istemleri veya konuşmaları açığa çıkarmadığı da vurgulanıyor.
AB Yapay Zeka Yasası’nın 50. maddesi, üretken yapay zeka sağlayıcılarının metin çıktılarını makinece okunabilir biçimde tanımlanabilir kılmasını zorunlu kılıyor. Kural, yeni giriş yapan şirketler için halihazırda geçerli; mevcut kuruluşların uyum sağlaması için 2 Aralık’a kadar süre bulunuyor.
