Çinli yapay zekâ girişimi Z.ai, bugün yaptığı açıklamada, açık kaynaklı GLM-5.3 modelinin yazılım açıklarını tespit etme testlerinde Anthropic’in erişimi kısıtlı Mythos 5 modeline yaklaştığını bildirdi.
Bu gelişme, Batılı geliştiriciler arasında ilgi gören Çinli yapay zekâ girişiminin konumunu pekiştirdi.
Z.ai, bir modelin kodları inceleme, güvenlik açıklarını belirleme ve bunların gerçekliğini doğrulama kabiliyetini ölçen CyberGym testinde GLM-5.3’ün yüzde 84,5 puan aldığını açıkladı.
Şirket, Mythos 5 için bu oranın yüzde 83,8 olduğunu bildirdi. Bu sonuçlar bağımsız kaynaklarca teyit edilmedi.
GLM-5.3, savunma amaçlı güvenlik araştırmalarının standart bir parçası olan açıkları çalışan saldırılara dönüştürme aşamasında Mythos 5’in gerisinde kaldı.
Z.ai, bu kabiliyeti ölçen ExploitBench testinde kendi modelinin yüzde 54,4, Mythos 5’in ise yüzde 78,0 puan aldığını belirtti.
Zamana dayalı ayrı bir testte Z.ai, GLM-5.3’ün iki saatte 105, altı saatte ise 130 saldırı geliştirme görevini tamamladığını açıkladı.
Mythos 5 ise aynı sürelerde sırasıyla 181 ve 247 görevi tamamladı.
Anthropic, siber güvenlik korumaları kaldırılmış Claude Fable 5 modeli olan Mythos’u yalnızca denetimden geçmiş kuruluşların erişimine sunuyor.
Söz konusu kısıtlamalar, yazılım açıklarını bulma ve bunları kullanma kabiliyetine sahip yapay zekâ sistemlerinin savunuculara yardım edebileceği gibi saldırganların işini de kolaylaştırabileceği endişesinden kaynaklanıyor.
Z.ai, güvenlik değerlendirmelerini tamamlayıp koruma katmanlarını güçlendirdikten sonra, yaklaşık iki hafta içinde GLM-5.3’ü kamuya açacağını duyurdu.
Modelin en hassas siber güvenlik fonksiyonlarının ise “güvenilir erişim” programı aracılığıyla yalnızca doğrulanmış kullanıcılara açık olacağı belirtildi.
Şirket, GLM-5.3’e riskli talepleri tarayan, modelin çalışmalarını denetleyen ve zararlı görevleri reddetmesini sağlayan çeşitli koruma katmanları eklediğini açıkladı.
Bu önlemlerin, zararlı faaliyetleri hata düzeltme, siber güvenlik eğitimi veya yetkili güvenlik testleri gibi meşru kullanımlardan ayırmak için tasarlandığı ifade edildi.
Eleştirmenler ise bir model başkaları tarafından indirilmeye, değiştirilmeye veya harici araçlarla birleştirilmeye açıldığında bu güvenlik önlemlerini uygulamanın zorlaşacağını savunuyor.
Kaynak: https://www.ntv.com.tr/teknoloji/galeri-cin-gelismis-yapay-zekada-gunden-gunde-abdye-yaklasiyor-1737334/3
