Nvidia’nın OCI üzerinde DGX Bulutu artık üretken yapay zeka eğitimi için kullanılabilir

Nvidia bugün bulut tabanlı yapay zeka süper bilgi işlem hizmeti DGX Cloud’un geniş erişilebilirliğini duyurdu. Bu hizmet, kullanıcılara ABD ve İngiltere’deki altyapının yanı sıra Oracle Bulut Altyapısı (OCI) üzerindeki binlerce sanal Nvidia GPU’ya erişim sağlayacaktır.

DGX Cloud, Nvidia’nın Mart ayındaki GTC konferansında duyurulmuştu. İşletmelere üretken yapay zeka ve yapay zekayı kullanan diğer alanlarda gelişmiş modelleri eğitmek için gereken altyapı ve yazılımı sağlama sözü verdi.

Nvidia, amaca yönelik altyapının, gen yapay zekanın dil modelleri gibi büyük, karmaşık modelleri eğitmek için devasa yapay zeka süper hesaplama taleplerini karşılamak üzere tasarlandığını söyledi.

>>VentureBeat’in devam eden üretken AI kapsamını takip edin<<

Nvidia’da DGX Platformları Kıdemli Direktörü Tony Paikeday, VentureBeat’e şunları söyledi: “Pek çok işletmenin DGX SuperPOD’leri şirket içinde dağıtmasına benzer şekilde, DGX Cloud, ultra yüksek bant genişliği, düşük gecikme süreli Nvidia ağ yapısı üzerinden birbirine bağlanan büyük özel DGX Cloud örnekleri kümeleriyle türünün en iyisi bilgi işlem mimarisinden yararlanıyor.”

Paikeday, DGX Cloud’un karmaşık altyapının yönetimini basitleştirerek kullanıcı dostu bir “sunucusuz yapay zeka” deneyimi sağladığını söyledi. Bu, geliştiricilerin altyapı endişelerinin yükü olmadan deneyler yapmaya, prototipler oluşturmaya ve uygulanabilir modelleri daha hızlı elde etmeye konsantre olmalarını sağlar.

Paikeday, VentureBeat’e şunları söyledi: “DGX Cloud’un gelişinden önce üretken yapay zeka modelleri geliştirmesi gereken kuruluşlar, bu büyük ölçekli iş yüklerinin üstesinden gelmek için uygun bir seçenek olarak yalnızca şirket içi veri merkezi altyapısına sahip olabilirdi.” “DGX Cloud ile artık herhangi bir kuruluş, bir süper bilgi işlem veri merkezini işletmek zorunda kalmadan, tarayıcılarının rahatlığından büyük karmaşık LLM’yi ve diğer üretken AI modellerini eğitmek için kendi AI süper bilgisayarına uzaktan erişebilir.”

>>Özel sayımızı kaçırmayın: Veri merkezinin Geleceği: Gittikçe artan talepleri karşılama.<<

Nvidia, teklifin üretken yapay zeka geliştiricilerinin ağır iş yüklerini birden fazla bilgi işlem düğümünde paralel olarak dağıtmasına olanak tanıdığını ve geleneksel bulut bilişime kıyasla eğitimde iki ila üç kat hızlanmaya yol açtığını iddia ediyor.

Şirket ayrıca, DGX Cloud’un işletmelerin kendi “AI mükemmellik merkezlerini” kurmalarına olanak tanıdığını ve aynı anda çok sayıda AI projesinde çalışan büyük geliştirici ekiplerini desteklediğini iddia ediyor. Bu projeler, gerektiğinde yapay zeka iş yüklerini otomatik olarak karşılayan bir süper bilgi işlem kapasitesi havuzundan yararlanabilir.

DGX Cloud aracılığıyla kurumsal üretken yapay zeka iş yüklerini kolaylaştırma

Buna göre McKinseyüretken yapay zeka, tescilli iş bilgisini yeni nesil yapay zeka uygulamalarına dönüştürerek küresel ekonomiye yılda 4 trilyon doların üzerinde katkıda bulunabilir.

Üretken yapay zekanın katlanarak büyümesi, çeşitli sektörlerdeki önde gelen şirketleri yapay zekayı bir iş zorunluluğu olarak benimsemeye zorlayarak hızlandırılmış bilgi işlem altyapısına olan talebi artırdı. Nvidia, bu artan hesaplama taleplerini karşılamak için DGX Cloud mimarisini optimize ettiğini söyledi.

Nvidia’dan Paikeday, geliştiricilerin genellikle veri hazırlama, ilk prototipleri oluşturma ve GPU altyapısını verimli bir şekilde kullanma konusunda zorluklarla karşılaştığını söyledi. Nvidia Base Command Platform ve Nvidia AI Enterprise tarafından desteklenen DGX Cloud, bu sorunları çözmeyi hedefliyor.

Paikeday, VentureBeat’e şunları söyledi: “Nvidia Base Command Platform ve Nvidia AI Enterprise aracılığıyla, DGX Cloud, hızlandırılmış veri bilimi kitaplıkları, optimize edilmiş AI çerçeveleri, eğitim öncesi AI modelleri paketi ve model oluşturmayı hızlandırmak için iş akışı yönetimi yazılımı sayesinde, geliştiricilerin üretime hazır modellere daha kısa sürede ve daha az çaba harcayarak ulaşmasını sağlıyor.”

biyoteknoloji firması Amgen ilaç keşfini hızlandırmak için DGX Cloud kullanıyor. Nvidia, şirketin DGX Cloud’u Nvidia BioNeMo geniş dil modeli (LLM) yazılımı ve Nvidia RAPIDS veri bilimi hızlandırma kitaplıkları da dahil olmak üzere Nvidia AI Enterprise yazılımı ile birlikte kullandığını söyledi.

Amgen’de Dijital İnovasyonla Araştırma Hızlandırma Merkezi Biyolojik Terapötik Keşif Araştırma İcra Direktörü Peter Grandsard, “Nvidia DGX Cloud ve Nvidia BioNeMo ile araştırmacılarımız, yapay zeka altyapısıyla uğraşmak ve makine öğrenimi mühendisliğini kurmak yerine daha derin biyolojiye odaklanabilir” dedi.

Sağlıklı bir vaka çalışması

Amgen, artık DGX Cloud aracılığıyla trilyonlarca antikor dizisini hızla analiz edebildiğini ve sentetik proteinlerin hızla geliştirilmesini sağlayabildiğini iddia ediyor. Şirket, DGX Cloud’un bilgi işlem ve çok düğümlü yeteneklerinin, alternatif platformlara kıyasla BioNeMo ile protein LLM’lerinde üç kat daha hızlı eğitim ve Nvidia RAPIDS ile 100 kata kadar daha hızlı eğitim sonrası analiz elde etmesine yardımcı olduğunu bildirdi.

Nvidia, DGX Cloud örneklerini aylık kiralama esasına göre sunacak. Her örnek, düğüm başına 640 GB GPU belleği sağlayan sekiz güçlü Nvidia 80 GB Tensor Core GPU’ya sahip olacak.

Sistem, birbirine bağlı kümeler arasında iş yükünü ölçeklendirmeye olanak tanıyan ve birden çok örneği etkin bir şekilde birleşik, devasa bir GPU’ya dönüştüren yüksek performanslı, düşük gecikmeli bir yapı kullanır. Ek olarak, DGX Cloud, kapsamlı bir çözüm sağlayan yüksek performanslı depolama ile donatılmıştır.

Teklif ayrıca, 100’den fazla uçtan uca AI çerçevesi ve önceden eğitilmiş modeller içeren bir yazılım katmanı olan Nvidia AI Enterprise’ı da içerecek. Yazılım, hızlandırılmış veri bilimi ardışık düzenlerini kolaylaştırmayı ve üretim yapay zekasının geliştirilmesini ve devreye alınmasını hızlandırmayı amaçlıyor.

Paikeday, “DGX Cloud yalnızca büyük bilgi işlem kaynakları sağlamakla kalmıyor, aynı zamanda veri bilimcilerin daha üretken olmalarını ve kaynaklarını verimli bir şekilde kullanmalarını sağlıyor” dedi. “Müşterinin kodunu ve iş yüklerini optimize etmeye yardımcı olan Nvidia’nın yapay zeka uzmanlarının desteğiyle hemen başlayabilir, mükemmel bir görünürlükle birkaç işi aynı anda başlatabilir ve birden çok üretken yapay zeka programını paralel olarak çalıştırabilirler.”