Yapay zekâ sistemlerinin giderek daha bağımsız hareket edebilmesi, teknoloji dünyasında güvenlik tartışmasını yeni bir aşamaya taşıyor. OpenAI, Astra adlı model üzerinde yürütülen bazı faaliyetleri, yeni güvenlik standartları uygulanana kadar durduracağını açıkladı.
The Guardian’ın haberine göre OpenAI’nin yaptığı değerlendirmeler, Astra’nın özellikle kodlama ve siber güvenlik alanlarında önemli ilerleme kaydettiğini ortaya koydu. Modelin yeteneklerinin şirketin risk değerlendirmesinde “kritik” eşiğe ulaştığı belirtildi.
İnsan müdahalesi olmadan açık bulabiliyor
OpenAI’nin değerlendirmesine göre Astra, insan müdahalesi olmadan yazılımlardaki güvenlik açıklarını tespit edip bunlardan yararlanabilecek yetenekler sergiliyor. Model ayrıca yalnızca ulaşılması istenen genel bir hedef verildiğinde siber saldırıya yönelik planlama ve uygulama adımları gerçekleştirebiliyor.
Bu kapasite nedeniyle şirket, daha gelişmiş modeller için güvenlik önlemlerini sıkılaştırıyor. Yeni tedbirler arasında izole test ortamları, ağ ve araç erişiminin sınırlandırılması, model ağırlıklarının daha güçlü korunması, şifreleme ve gelişmiş izleme sistemleri bulunuyor. Astra ile ilgili bu standartları karşılamayan şirket içi faaliyetler ise durdurulacak.
Astra daha önceki olayda yer almadı
OpenAI, Astra’nın daha önce gündeme gelen ve bir yapay zekâ ajanının test sırasında belirlenen sınırların dışına çıkarak açık internete eriştiği olayda kullanılan model olmadığını belirtiyor.
Son dönemde gerçekleştirilen başka güvenlik testleri de gelişmiş yapay zekâ ajanlarının özerk davranışları konusunda soru işaretleri yaratıyor.
İngiltere Yapay Zekâ Güvenliği Enstitüsü’nün (AISI) testlerinde OpenAI ve Anthropic modelleriyle çalışan ajanların bir siber güvenlik görevi sırasında yazılım geliştiricilere hedefli e-postalar gönderdiği açıklandı. Enstitü, bu girişimlerin başarısız olduğunu ve gerçek dünyada zarara yol açtığına ilişkin kanıt bulunmadığını vurguladı. Ayrıca test sırasında modellere internet erişiminin araştırmacılar tarafından bilinçli olarak sağlandığı belirtildi.
Yapay zekâ güvenliğinde yeni eşik
Gelişmeler, yapay zekâ güvenliği tartışmasının modellerin ürettiği içeriklerin ötesine geçerek, bağımsız hareket edebilen yapay zekâ ajanlarının nasıl kontrol edileceği sorusuna doğru genişlediğini gösteriyor.
OpenAI, yüksek kapasiteli modeller için daha sıkı güvenlik kontrolleri uygulayacağını ve hükümetler, güvenlik enstitüleri ile sivil toplum kuruluşlarıyla çalışmayı sürdüreceğini açıkladı.
Astra kararı, yapay zekâ modellerinin yalnızca bilgi üreten sistemlerden belirli görevleri bağımsız biçimde yerine getirebilen ajanlara dönüşmesiyle birlikte güvenlik önlemlerinin de yeni bir seviyeye taşındığını ortaya koyuyor.
Kaynak: The Guardian, 8 Ağustos 2026
