Nvidia CEO’su, Computex’te tarihi üretken yapay zeka dalgası için çipleri vurguluyor

Nvidia CEO’su Jensen Huang, şirketlerin dünya çapında endüstrileri dönüştüren tarihi bir üretken yapay zeka dalgasını sürmek için kullanabilecekleri çeşitli platformları duyurdu.

Huang açıklamalarda bulundu. açılış konuşması Tayvan’daki Computex ticaret fuarında. Konuşma, pandemiden bu yana şahsen yaptığı ilk canlı açılış konuşmasıydı. Ayrıca Grace Hopper Superchips’in artık tam üretimde olduğunu duyurdu.

Yeni iş modellerini etkinleştiren ve mevcut olanları daha verimli hale getiren hızlandırılmış bilgi işlem hizmetlerini, yazılımları ve sistemleri anlattı. Computex’te Huang, şirketlerin fabrikalarını gerçek hayatta inşa etmeden önce kavramları test etmek için fabrikalarının dijital ikizlerini oluşturmasına olanak tanıyan endüstriyel dijitalleşme trendini vurguladı. Gerçek dünyadaki fabrikalardaki sensörler, genel tasarımı iyileştirmek için dijital ikizlere geri bildirimde bulunur.

Grace Hopper Superchips, enerji tasarruflu Nvidia Grace CPU ile yüksek performanslı Nvidia H100 Tensor Core GPU’yu tek bir modülde birleştirir. Huang, işletmeler için büyük bellekli bir yapay zeka süper bilgisayarı olan DGX GH200’ü tanıttı. 256 adede kadar NVIDIA Grace Hopper Superchip’i tek bir veri merkezi boyutlu GPU’da birleştirmek için Nvidia NVLink’i kullanır.

DGX GH200, tek bir Nvidia DGX A100 320 GB sisteminden yaklaşık 500 kat daha fazla, bir exaflop performans ve 144 terabayt paylaşılan bellek sunar. Bu, geliştiricilerin üretken AI sohbet botları için büyük dil modelleri, öneri sistemleri için karmaşık algoritmalar ve dolandırıcılık tespiti ve veri analitiği için kullanılan grafik sinir ağları oluşturmasına olanak tanır.

Google Cloud, Meta ve Microsoft, üretici yapay zeka iş yüklerine yönelik yeteneklerini keşfetmek için DGX GH200’e ilk erişim elde etmesi beklenenler arasında yer alıyor.

Huang, “DGX GH200 AI süper bilgisayarları, AI’nın sınırlarını genişletmek için Nvidia’nın en gelişmiş hızlandırılmış bilgi işlem ve ağ teknolojilerini entegre ediyor” dedi.

Nvidia Helios’u

Nvidia, bu yıl devreye giren kendi devasa yapay zeka süper bilgisayarı Nvidia Helios’u kuruyor. Büyük AI modellerini eğitmek için veri çıkışını güçlendirmek için 400 Gb/sn’ye kadar bant genişliğine sahip Nvidia Quantum-2 InfiniBand ağına bağlı dört DGX GH200 sistemi kullanacak.

DGX GH200, Nvidia’nın en yeni GPU’larını ve CPU’larını kullanan etkinlikte duyurulan yüzlerce sistemin bir parçasıdır. Nvidia, birlikte üretken yapay zekayı ve hızlandırılmış bilgi işlemi milyonlarca kullanıcıya getirdiklerini söyledi.

Huang, her boyuttaki veri merkezinin ihtiyaçlarını karşılamak için hızlandırılmış sunucular oluşturmaya yönelik modüler bir referans mimarisi olan Nvidia MGX’i duyurdu. Sistem üreticileri, çok çeşitli AI, HPC ve Nvidia Omniverse uygulamalarına uyacak şekilde yüzden fazla farklı sunucu yapılandırmasını hızlı ve uygun maliyetli bir şekilde oluşturmak için kullanacak.

MGX, üreticilerin ortak bir mimari ve modüler bileşenler kullanarak CPU ve hızlandırılmış sunucular oluşturmasına olanak tanır.

Büyük resme odaklanan Huang, Nvidia Hopper, Grace ve Ada Lovelace mimarilerine sahip 400’den fazla sistem konfigürasyonunun piyasaya çıktığını duyurdu. En karmaşık sorunların üstesinden gelmeyi hedefliyorlar
AI, veri bilimi ve yüksek performanslı bilgi işlemdeki zorluklar.

Grace Hopper 5G’ye yardımcı oluyor

Huang ayrıca Nvidia’nın Grace Hopper ile 5G’nin yeniden keşfedilmesine nasıl yardımcı olduğunu gösterdi. Nvidia’nın Japonya’da dağıtılmış bir veri merkezleri ağı oluşturmak için bir telekom deviyle çalıştığını duyurdu. Ortak bir bulut platformunda 5G hizmetleri ve üretken yapay zeka uygulamaları sunacak.

Veri merkezleri, 5G protokolünün gerektirdiği son derece hassas zamanlamayı sağlamak için modüler MGX sistemlerinde Grace Hopper ve Nvidia BlueField-3 DPU’ların yanı sıra Nvidia Spectrum Ethernet anahtarlarını kullanacak. Platform, enerji tüketimini azaltırken spektral verimliliği artırarak maliyetleri düşürecek.

Sistemler, otonom sürüş, yapay zeka fabrikaları, artırılmış ve sanal gerçeklik, bilgisayar görüşü ve dijital ikizlerdeki uygulamaları keşfetmeye yardımcı olacak. Gelecekteki kullanımlar arasında 3D video konferans ve
holografik iletişim.

Bulut ağlarını güçlendirme

Huang ayrıca, Ethernet tabanlı yapay zeka bulutlarının performansını ve verimliliğini artırmak için özel olarak oluşturulmuş bir ağ platformu olan Nvidia Spectrum-X’i tanıttı. AI performansında ve güç verimliliğinde 1,7 kat kazanç sağlamak için Spectrum-4 Ethernet anahtarlarını BlueField-3 DPU’lar ve yazılımla birleştirir.

Nvidia Spectrum-X, Spectrum-4 anahtarları ve BlueField-3 DPU’lar artık Dell Technologies, Lenovo ve Supermicro gibi sistem üreticilerinden temin edilebilir.

Huang, NVIDIA’nın İsrail veri merkezinde üretken bir yapay zeka süper bilgisayarı olan Israel-1’i inşa ettiğini duyurdu. Dell PowerEdge sunucuları, Nvidia HGX H100 süper bilgi işlem platformu ve BlueField-3 DPU’ları ve Spectrum-4 anahtarları ile Spectrum-X platformu ile oluşturulacak.

Windows’ta Gen AI’yı Hızlandırma

Huang, Nvidia ve Microsoft’un üretken yapay zeka çağında Windows PC’ler için yeniliği desteklemek üzere nasıl işbirliği yaptığını anlattı.

Yeni ve geliştirilmiş araçlar, çerçeveler ve sürücüler, bilgisayar geliştiricilerinin yapay zeka geliştirmesini ve dağıtmasını kolaylaştırıyor. Örneğin, GPU hızlandırmalı AI modellerini ve yeni grafik sürücülerini optimize etmek ve dağıtmak için Microsoft Olive araç zinciri, Nvidia GPU’lu Windows PC’lerde DirectML performansını artıracaktır.

İşbirliği, yapay zeka ile hızlandırılmış 400’den fazla Windows uygulaması ve oyununun performansını artıran Tensor Çekirdekli RTX GPU’lara sahip 100 milyon PC’lik kurulu tabanı geliştirecek ve genişletecek.