NVIDIA, yapay zeka (YZ) dünyasına güç veren CUDA platformuna yirmi yılın en büyük ve en kapsamlı güncellemesini getirdi. Piyasaya sürülen NVIDIA CUDA 13.1 sürümü, ‘CUDA Tile’ olarak isimlendirilen ve YZ programlama anlayışını kökten değiştirmesi beklenen yeni bir sistemi kullanıma sunuyor. Bu kıymetli gelişme, platformun keşfedildiği yirmi yılın akabinde gelen en büyük adım olarak kayıtlara geçti.

CUDA Tile görücüye çıktı

Başlangıç etabında, bu yenilik yalnızca yeni Blackwell jenerasyonu GPU donanımlarıyla hudutlu kaldı. Şirket, ilerleyen devirlerde takviyenin daha fazla mimariyi kapsayacağını belirtti.

CUDA Tile programlama ile geliştiriciler, kodlarını data yığınları olan “tile’lar” ile daha üst bir soyutlama katmanına taşıyor. Bu noktadan sonra, derleyici ve çalışma vakti (runtime), belirlenen iş yükünü, Tensor Çekirdekleri üzere özel donanımlar da dâhil olmak üzere, tekil iş parçacıklarına dağıtmak için en verimli yolu otomatik olarak belirliyor.

Yeni tile tabanlı programlama, her bir iş parçacığının yürütme yolunun ayrıntılıca tanımlanması zorunluluğunu ortadan kaldırıyor. Bu özellik, geliştiricilerin farklı GPU mimarilerinde yüksek performans sergileyen kodları daha az eforla yazabilmesini sağlıyor.

YZ iş yüklerinin ana bilgi tipi olan tensörler için NVIDIA, Tensor Çekirdekleri (TC) ve Tensor Bellek Hızlandırıcıları (TMA) üzere özel donanımlar geliştirdi. Donanım karmaşıklığı arttıkça, bu yetenekleri kullanmak için daha gelişmiş yazılımlara gereksinim duyuluyordu.

CUDA Tile, Tensor Çekirdeklerini ve onların programlama modellerini soyutlayarak, kullanılan kodun hem mevcut hem de gelecekteki tüm tensör çekirdek mimarileriyle uyumlu olmasını garantiliyor.

Geliştiriciler, algoritmalarını bilgi modüllerini (tile’ları) tanımlayarak ve bu modüller üzerinde yapılacak süreçleri belirterek programlıyor. Algoritmanın element bazında nasıl çalışacağını en ince detayına kadar ayarlama gereği kalmıyor, bu misyonu derleyici ve çalışma vakti üstleniyor.

Bu üst seviye kodlama, tile süreçlerini mümkün kılan ve sanal bir komut seti olan CUDA Tile IR ile destekleniyor. NVIDIA, bu sistemin klâsik SIMT (tek talimat, çoklu iş parçacığı) donanımı ve programlama yapısının yerini almadığını, tersine ikisinin paralel olarak var olmaya devam ettiğini bildiriyor. Şirket ayrıyeten, tanınan YZ platformunda CUDA Tile programlamayı etkinleştiren NVIDIA cuTile Python aracını da kullanıma sundu.