Bu çözüm ne zaman tercih edilmeli?

Birden fazla HPC cluster'ınız varsa veya farklı donanım mimarilerine (CPU, GPU, FPGA) sahip altyapılarınızı tek bir çatı altında yönetmek istiyorsanız multi-cluster çözümü idealdir. Ayrıca yoğun dönemlerde iş yüklerini cluster'lar arasında dengelemek, kritik işleri önceliklendirmek ya da coğrafi olarak dağıtık veri merkezlerini merkezi bir panel üzerinden izlemek istediğinizde bu yaklaşım tercih edilmelidir.

Mevasis bu çözümü nasıl sağlıyor?

Mevasis, SLURM Federation kurulumu ve yapılandırmasından başlayarak coscheduling politikalarının tasarımına, iş yükü dengeleme algoritmalarının uygulanmasına ve merkezi izleme altyapısının kurulumuna kadar uçtan uca hizmet sunar. Deneyimli HPC mühendislerimiz mevcut altyapınızı analiz eder, kesintisiz geçiş planı hazırlar ve devreye alma sonrasında da destek sağlar.

Fiyatlandırma nasıl?

Multi-cluster yönetim çözümünün fiyatlandırması; cluster sayısı, toplam düğüm sayısı, kullanılan yazılım bileşenleri ve destek kapsamına göre değişmektedir. Altyapınıza özel bir teklif almak için teklif formunu doldurabilir veya bizimle doğrudan iletişime geçebilirsiniz.

Çok-Küme (Multi-Cluster) Yönetimi

Kurumsal HPC altyapıları büyüdükçe, tek bir cluster ile tüm iş yüklerini karşılamak giderek güçleşir. Farklı departmanların farklı donanım ihtiyaçları, coğrafi olarak dağıtık veri merkezleri veya yedeklilik gereksinimleri, birden fazla cluster’ın birlikte işletilmesini zorunlu kılar. Çok-küme yönetimi (multi-cluster management), bu dağıtık yapıyı merkezi bir kontrol düzlemi üzerinden yönetmenizi sağlar.

Çok-Küme Yönetimi Nedir?

Multi-cluster yönetimi; birbirinden bağımsız olarak çalışabilen iki veya daha fazla HPC cluster’ının ortak bir yönetim katmanıyla koordineli biçimde işletilmesidir. Bu yapıda her cluster kendi kaynaklarını ve kuyruklarını korurken, merkezi bir orkestrasyon mekanizması iş yüklerini cluster’lar arasında dağıtır, kaynakları dengeler ve kullanıcıya tek bir giriş noktası sunar.

Temel bileşenler şunlardır:

Federation katmanı: Cluster’lar arasında iş gönderme ve sorgulama trafiğini yönetir.
Merkezi zamanlayıcı: İş yüklerini mevcut kapasiteye ve politikalara göre en uygun cluster’a yönlendirir.
Ortak kimlik doğrulama: Kullanıcıların tüm cluster’larda aynı kimlik bilgileriyle çalışmasını sağlar.
Birleşik izleme: Tüm cluster’ların sağlık durumu ve iş metrikleri tek bir panelde görüntülenir.

Neden Multi-Cluster Yönetimine İhtiyaç Duyulur?

Heterojen Donanım Altyapısı

Modern HPC altyapıları yalnızca CPU düğümlerinden oluşmaz. GPU ağırlıklı yapay zeka iş yükleri, yüksek bellek gerektiren genomik analizler ve düşük gecikmeli ağ gerektiren finansal simülasyonlar birbirinden farklı donanım profilleri talep eder. Multi-cluster yapısı, her iş yükünü en uygun donanım grubuna otomatik olarak yönlendirir.

Kapasite Dengeleme ve Taşma Yönetimi

Yoğun dönemlerde bir cluster’daki kuyruk bekleme süresi uzadığında işler, boş kapasitesi olan komşu cluster’a taşınabilir. Bu mekanizma hem toplam bekleme süresini kısaltır hem de donanım kullanım oranını artırır.

Yüksek Erişilebilirlik

Bir cluster bakım moduna alındığında veya beklenmedik bir arıza yaşandığında, kritik işler otomatik olarak yedek cluster’a yönlendirilir. Bu sayede planlı bakımlar bile iş akışlarını kesintiye uğratmaz.

Uyumluluk ve Veri Yerelliği

Bazı durumlarda belirli verilerin belirli coğrafi konumlarda işlenmesi yasal ya da güvenlik gereksinimleri açısından zorunludur. Multi-cluster yapısı, veri yerelliği kurallarını politika düzeyinde uygulamanıza imkan tanır.

SLURM Federation ile Multi-Cluster Nasıl Çalışır?

SLURM, multi-cluster ortamları için Federation mekanizmasını sunar. Bu yapıda her cluster kendi yerel SLURM yöneticisini (slurmctld) çalıştırmaya devam ederken, tüm cluster’lar ortak bir slurmdbd (veritabanı arka plan süreci) üzerinden birbirine bağlanır.

# Mevcut federation durumunu sorgula
sacctmgr show federation

# Yeni bir cluster'ı federasyona ekle
sacctmgr add cluster compute2 \
  controlhost=compute2-mgmt \
  controlport=6817

# İki cluster içeren federation oluştur
sacctmgr add federation hpc-fed \
  clusters=compute1,compute2

# Belirli bir cluster'a iş gönder
sbatch --cluster=compute2 job.sh

# Tüm cluster'lardaki işleri listele
squeue --federation

# Federasyon genelinde iş önceliğini sorgula
sprio --federation

Federation yapısında bir kullanıcı iş gönderdiğinde SLURM önce yerel cluster’daki bekleme süresini hesaplar, ardından diğer cluster’lardaki mevcut kapasiteyi değerlendirir ve işi en kısa sürede tamamlanacağı cluster’a yerleştirir. Bu süreç kullanıcı için tamamen şeffaftır.

Coscheduling ve İş Yükü Dengeleme Politikaları

Multi-cluster ortamında iş yükü dengeleme yalnızca “hangi cluster boşta?” sorusuna yanıt vermekten ibaret değildir. Etkili bir dengeleme stratejisi aşağıdaki boyutları gözetir:

Politika Türü	Açıklama	Tipik Kullanım
Öncelik tabanlı	Kritik işler her zaman belirli cluster’lara yönlendirilir	Üretim iş yükleri
En kısa bekleme	İş, en düşük tahmini bekleme süresine sahip cluster’a gider	Genel amaçlı kullanım
Kapasite eşikleme	Cluster doluluk oranı eşiği aşıldığında işler taşar	Ani yük artışları
Veri yakınlığı	İş, verinin bulunduğu depolama sistemine yakın cluster’a gönderilir	Büyük veri işleme
Maliyet optimizasyonu	Hibrit bulut ortamlarında en düşük maliyetli kaynak seçilir	Bulut patlaması (cloud bursting)

Merkezi İzleme ve Raporlama

Birden fazla cluster’ı ayrı ayrı izlemek operasyonel karmaşıklığı katlar. Mevasis’in multi-cluster çözümlerinde tüm altyapı tek bir izleme katmanıyla yönetilir:

Prometheus + Grafana Entegrasyonu

Her cluster’dan toplanan metrikler merkezi bir Prometheus instance’ına aktarılır. Grafana üzerinde hazırlanan panolar; düğüm kullanım oranları, kuyruk derinlikleri, iş tamamlanma süreleri ve ağ trafiği gibi kritik metrikleri gerçek zamanlı olarak gösterir.

Uyarı ve Olay Yönetimi

Herhangi bir cluster’da düğüm arızası, disk dolması veya kuyruk bekleme süresinin eşiği aşması gibi olaylar anında ilgili ekiplere bildirilir. Otomatik iyileştirme akışları (runbook) sayesinde sık karşılaşılan sorunların bir kısmı insan müdahalesi gerektirmeden çözülür.

Mevasis’in Multi-Cluster Yönetim Yaklaşımı

Mevasis, multi-cluster çözümlerini kurumun mevcut altyapısını ve iş gereksinimlerini derinlemesine analiz ederek tasarlar. Süreç dört aşamadan oluşur:

1. Altyapı Değerlendirmesi: Mevcut cluster’ların donanım profili, SLURM sürümleri, ağ topolojisi ve ortak depolama çözümleri incelenir. Federasyon için ön koşullar belirlenir.

2. Mimari Tasarım: Küme yapılandırması, kuyruk hiyerarşisi, kullanıcı ve proje hesapları ile iş yükü dengeleme politikaları kurumun iş süreçlerine göre tasarlanır.

3. Aşamalı Devreye Alma: Üretim ortamını kesintiye uğratmamak için yeni bileşenler kademeli olarak devreye alınır. Her aşama geri alma planıyla desteklenir.

4. Eğitim ve Belgeleme: Sistem yöneticileri ve son kullanıcılar için uygulamalı eğitim düzenlenir; tüm yapılandırma kararları teknik belgelerle kayıt altına alınır.

Devreye alma sonrasında Mevasis, proaktif izleme ve danışmanlık desteğiyle altyapınızın performansını sürekli optimize eder.

Kurumunuzun HPC altyapısını birleşik bir yönetim çatısı altında toplamak ve operasyonel verimliliğinizi artırmak için bizimle iletişime geçin. Altyapınıza özel multi-cluster mimari tasarımı ve uygulama planlaması için iletişim sayfamızı ziyaret edin.