NVIDIA, Gizli Hesaplama altyapısını genişletti.
Yeni Altyapı Seçenekleri
NVIDIA, organizasyonların güvenli bir şekilde ölçeklenebilir ajanlar kurmasına olanak tanıyan yeni araçlar geliştirmeye devam ediyor. Bugün duyurulan NVIDIA OpenShell Referans Mimarisi, bu büyüyen teknolojiler portföyünün bir parçası. Gizli Hesaplama altyapısı, bu ajanların çalıştığı modelleri ve verileri koruma işlevi görüyor.
Gizli Bare Metal, NVIDIA’nın Gizli Hesaplama altyapısına eklenen yeni bir dağıtım seçeneği. Bu seçenek, model geliştiricilerin hassas iş yüklerini, üçüncü taraf altyapılarda çalıştırırken modelleri ve verileri üzerinde kontrol sağlamalarına imkan tanıyor.
Güvenlik Kontrolleri
NVIDIA, veri taşınırken koruma sağlayan, platform bütünlüğünü ölçen ve donanım düzeyinde erişim kısıtlamalarını uygulayan yeni platform güvenlik kontrolleri sunuyor. Bu kontroller, model geliştiricilerin özel yazılım yığınlarını barındırmalarına olanak tanıyor. Bunun yanında, NVIDIA hızlandırılmış hesaplama altyapısında üçüncü taraf bulut, neocloud ve kurumsal altyapılarda çalışabiliyorlar.
Gizli Hesaplama, üç dağıtım seçeneği sunuyor: Gizli Bare Metal, Gizli Konteynerler ve Gizli Sanal Makineler. Bu seçenekler, organizasyonların güvenilirlik sınırlarını ve operasyonel gereksinimlerini karşılayacak şekilde modellerini eşleştirmesine olanak tanıyor.
Küresel Kapasite ve İş Birlikleri
Gizli Bare Metal, yüksek değerli iş yüklerini güçlü model ve veri gizliliği koruma gereksinimleri ile sunan sağlayıcılara bir yol açıyor. Model geliştiriciler için genişleyen ekosistem, eğitim ve çıkarım süreçlerini dünya genelinde ölçeklendirmek için daha fazla coğrafi, egemen ve operasyonel seçenek sunuyor.
Cohere, Gizli Bare Metal’i Cohere Model Vault’a entegre etmeyi planlıyor. Bu entegrasyon, NVIDIA’nın güvenilir yürütme ortamlarını kullanarak donanım kökenli güvenliği doğrudan GPU’ya taşıyacak ve modelleri ile verileri bellek ve bağlantılar boyunca koruyacak.
Google Cloud Desteği
Google Cloud, A4X Max örnekleri desteklemek için Gizli Bare Metal desteğini genişletiyor. Bu örnekler, eğitim verileri ve model fikri mülkiyeti için kriptografik korumalar ile donatılmış sanallaştırılmamış NVIDIA hızlandırmalı hesaplama sunacak.
Google Cloud’dan Andrés Lagar-Cavilla, “Gizli Bare Metal’i, AI laboratuvarlarına donanım ile izole edilmiş, sanallaştırılmamış hesaplama ortamları ve uçtan uca kriptografik koruma sağlamak için tanıtıyoruz,” dedi.
Destekleyen Kurumlar ve Sistemler
NVIDIA Gizli Hesaplama, NVIDIA Grace Blackwell NVL72 sistemleri ve x86 tabanlı NVIDIA HGX Rubin NVL8 ve NVIDIA DGX Rubin NVL8 sistemleri ile destekleniyor. CoreWeave, Firmus, GMI Cloud, Google Cloud, IREN, Lambda, Microsoft Azure Altyapısı, Nebius, Nscale ve Vultr gibi firmalar, NVIDIA Gizli Hesaplama dağıtımlarını destekliyor.
Küresel sistem ortakları arasında Cisco, Dell Technologies, HPE, Lenovo, Supermicro ve Bull, bu yetenekleri NVIDIA Sertifikalı Sistemlerle destekleyecek. NVIDIA DSX OS, tüm NVIDIA Gizli Hesaplama modlarını destekleyerek, bulut sağlayıcılarına gizli iş yüklerini destekleyen AI fabrikaları inşa etme ve işletme için yazılım temeli sunacak.
