Microsoft Yönetim Kurulu Başkanı ve CEO’su Satya Nadella, 10 Ekim tarihinde X platformunda yaptığı açıklamada, yapay zeka modellerine acil durum freni eklenmesinin zorunlu olduğunu belirtti.
Nadella, mevcut AI güvenlik mimarisinin yetersiz kaldığını, modellerin aynı girdiye farklı sonuçlar vermesinin öngörülebilir tasarım ve insan kontrolüyle sınırlandırılması gerektiğini vurguladı.
AI acil durum freni nasıl çalışmalı?
Öneriye göre, modelin görev yöneten yazılım katmanından (harness) bağımsız bir güvenlik katmanı oluşturulmalı ve bu katman modelin dışına konumlandırılmalı. Böylece yetkili kişilerin, modelin çalışmasını anında duraklatıp kapatabilmesi mümkün olacak.
Güvenlik kontrollerinin modelin içinde değil, dışındaki bir mekanizmaya yerleştirilmesi, olası ihlallerin önceden varsayılması ve buna göre hareket edilmesini sağlayacak.
Yeni izlenebilirlik ve denetim ilkeleri
AI sistemlerinin izlenebilirlik ilkeleri çerçevesinde tasarlanması gerektiği ifade edildi. Bu çerçevede model çeşitliliği, eylemlerin okunabilir kayıtlarla belgelenmesi, sürekli test, bağımsız kontrol, denetlenebilirlik, faaliyet sınırlaması ve güvenlik olay açıklaması gibi maddeler yer alıyor.
Mevcut standartların eksik olduğu alanlarda yeni sektör standartları geliştirilmesi önerilirken, güvenliğin yalnızca modelin güvenilirliğine bağlanmadığı, davranışları denetleyebilen ve müdahale edebilen sistemlerin kurulması gerektiği de altı çizildi.
Bu yaklaşım, kapalı ve açık ağırlıklı gelişmiş modellerin kurum içi risk olarak ele alınması ve dış kontrol mekanizmalarıyla güvenliğinin sağlanması yönündeki stratejiyi pekiştiriyor.
