OpenAI, Avrupa Birliği’nde üretilen metin ve kodlara görünmez dijital filigran ekleyerek, üretken yapay zeka çıktılarının izlenebilirliğini artırmayı hedefliyor. Bu adım, AB Yapay Zeka Yasası’nın 50. maddesiyle uyumlu bir şekilde tasarlanıyor.
Filigranın Temel Özellikleri
Filigran, varsayılan olarak devre dışı bırakılacak; ancak AB’deki ChatGPT ve Codex çıktıları bu uygulamanın istisnası olarak kabul edilecek. Müşteriler, seçili modellerde filigranı isteğe bağlı olarak etkinleştirebilecekler. OpenAI, hangi modellerin küresel olarak sunulacağını henüz açıklamadı.
Teknoloji Arkası: textGrain Sistemi
OpenAI’nin tescilli textGrain sistemi, modelin kelime seçimlerine görünmez istatistiksel bir sinyal ekliyor. Bu sinyal, bir algılayıcı tarafından incelenerek metinde filigran bulunup bulunmadığını tespit edebiliyor.
Algılama Performansı ve Sınırlamalar
Şirket, ideal koşullardaki yüksek performansın günlük kullanımda güvenilir tespiti garanti etmediğini belirtiyor. Kısa metinlerde ve matematiksel içeriklerde tespit başarısı yaklaşık %80 seviyesinde kalıyor; metnin düzenlenmesi ise bu oranı düşürüyor.
Erişim ve Açık Kaynak Planı
Filigran algılama yazılımına ilk aşamada yalnızca onaylı araştırmacılar ve uzman kuruluşlar erişebilecek. Algılayıcının kullanıcıyı belirlemediği, istemleri veya konuşmaları açığa çıkarmadığı vurgulanıyor. Ayrıca OpenAI, teknolojiyi başkalarının uyarlayabilmesi için açık kaynaklı hale getirmeyi planlıyor.
AB Yapay Zeka Yasası’nın 50. maddesi, üretken yapay zeka sağlayıcılarının metin çıktılarını makinece okunabilir biçimde tanımlanabilir kılmasını zorunlu kılıyor. Kural, yeni giriş yapan şirketler için geçerli; mevcut kuruluşların ise 2 Aralık’a kadar uyum sağlaması gerekiyor.
