InfiniBand Switch
NVIDIA Quantum-2 ve Quantum-X800 InfiniBand switch modelleri. Yönetilebilir ve yönetilemez seçenekler, omurga ve leaf yapılandırmaları, yetkili bayi tedariki.
InfiniBand switch, HPC kümesinin omurgasıdır: düğümler arası her MPI mesajı ve her gradyan senkronizasyonu buradan geçer. Ethernet switch’lerinden farkı yalnızca hız değil; donanım seviyesinde akış kontrolü sayesinde kayıpsız iletim ve mikrosaniye altı anahtarlama gecikmesi sunmasıdır. Bu, ölçek büyüdükçe hesaplama verimini doğrudan belirler.
NVIDIA Quantum-2 ailesi 400Gb/s NDR, Quantum-X800 ailesi ise 800Gb/s XDR hız katmanında çalışır. Her iki ailede de yönetilebilir ve yönetilemez varyantlar bulunur; yönetilebilir modellerde subnet manager switch üzerinde koşar. SHARP teknolojisi ile kolektif MPI işlemlerinin bir bölümü ağ içinde toplanır — bu, all-reduce ağırlıklı eğitim işlerinde düğüm sayısı arttıkça belirginleşen bir kazanç sağlar.
Mevasis, switch’i tek başına bir kutu olarak değil fabric’in parçası olarak ele alır: topoloji hesabı, port planı, optik ve kablo seçimi, firmware uyumu ve devreye alma testleri tedarik sürecinin parçasıdır.
Nasıl seçilir
Yönetilebilir mi, yönetilemez mi?
Yönetilebilir modellerde subnet manager switch üzerinde çalışır; ayrı bir yönetim sunucusuna gerek kalmaz ve telemetri switch'ten alınır. Yönetilemez modeller daha uygun maliyetlidir ancak fabric'te en az bir yerde subnet manager çalıştırmanız gerekir. Kural olarak: ilk switch yönetilebilir, ölçeklerken eklenenler yönetilemez seçilir.
Hız katmanı: HDR mi, NDR mi, XDR mi?
Hız katmanını GPU değil, iş yükünüzün haberleşme profili belirler. Yoğun all-reduce yapan dağıtık eğitim işleri NDR (400G) ve üzerinden fayda görür; MPI ağırlıklı klasik simülasyonlarda HDR (200G) çoğu zaman yeterlidir. XDR (800G), Blackwell sınıfı düğümlerde port başına bant genişliğinin darboğaz olduğu kurulumlar içindir.
Port sayısı ve topoloji
Port sayısını düğüm sayısına değil, hedeflediğiniz bisection bant genişliğine göre hesaplayın. Non-blocking fat-tree'de leaf switch portlarının yarısı omurgaya ayrılır; yani 32 düğüm için 64 portluk bir leaf katmanı gerekir. Blocking oranını kabul edilebilir bir seviyede tutmak, switch sayısını ve maliyeti belirgin biçimde düşürür.
Soğutma ve fiziksel yerleşim
Yüksek yoğunluklu switch'lerde hava akış yönü (port-to-power veya power-to-port) rack düzeninizle uyumlu olmalıdır. Yanlış akış yönü, sıcak koridor tasarımını bozar. Güç tüketimi ve rack derinliği de sipariş öncesinde doğrulanması gereken kalemlerdir.
Ürünler 1
Sık Sorulan Sorular
OpenSM'i küme içindeki bir sunucuda (genellikle login veya yönetim düğümünde) çalıştırabilirsiniz. Üretim ortamlarında yüksek erişilebilirlik için iki düğümde yedekli kurulum öneriyoruz. Kurulum ve yedekli yapılandırma, devreye alma hizmetimizin kapsamındadır.
Farklı hız katmanları aynı fabric'te birlikte çalışabilir; bağlantı en düşük ortak hızda kurulur. Ancak karışık yapıda topoloji ve kablolama planı kritik hale gelir. Mevcut envanterinizi paylaşırsanız, genişletme için uyumlu kalem listesi ve geçiş planı çıkarıyoruz.
Switch tarafındaki port ile sunucudaki adaptör portu çoğu zaman farklı modül tipi ister; örneğin switch tarafında finned (kanatçıklı) OSFP, HCA tarafında düz üst yüzeyli modül kullanılır. Teklifte switch, adaptör, optik ve kabloyu uyumluluk doğrulaması yapılmış tek liste olarak veriyoruz.
Birlikte Geleceği İnşa Edelim.
