Di artikel sebelumnya, kita bahas arsitektur fat-tree di jaringan AI computing: banyak jalur koneksi untuk memastikan data bisa ditransmisikan tanpa hambatan. Tapi tantangannya bukan hanya punya banyak jalur—melainkan bagaimana semua jalur itu bisa dimanfaatkan secara merata. Bayangkan jalan tol dengan 4 lajur. Kalau semua mobil menumpuk di 1 lajur saja, macet pasti terjadi. Hal yang sama berlaku saat ribuan GPU saling bertukar data (All Reduce operation): setiap jalur harus bekerja optimal agar tidak terjadi kemacetan yang memperlambat training. Solusinya: kontrol presisi—seperti pembalap yang harus tahu kapan harus melambat dan kapan harus menambah gas agar bisa melewati tikungan dengan kecepatan maksimal tapi tetap stabil. Teknologi Presisi H3C: Kunci Efisiensi Jaringan AI H3C mengembangkan teknologi penjadwalan presisi agar setiap switch bisa bekerja di performa puncak tanpa ada waktu idle. Prinsipnya tetap terbuka berbasis Ethernet, sehingga fleksibel dengan sistem scheduling, SDN, maupun cloud provider manapun. Bahkan kompatibilitas hardware (NIC GPU, modul optik) bisa diuji lebih awal, mengurangi risiko integrasi. Dengan fondasi ini, kita bisa menerapkan berbagai strategi load balancing tergantung kebutuhan jaringan. Empat Teknologi Load Balancing untuk AI Networking LBN (Load Balancing Network) Mirip jalan tol dengan gerbang khusus. Setiap pintu tol (port masuk) sudah dihubungkan ke jalurnya sendiri (port keluar), sehingga tidak ada rebutan jalur. Hasilnya: bandwidth terjamin, efisiensi tinggi. DLB (Dynamic Load Balancing) Seperti ekspedisi kontainer cerdas. Alih-alih selalu lewat rute yang sama, barang dibagi jadi paket kecil (flowlets) dan dikirim lewat jalur yang paling sepi. Jadi semua jalur terpakai optimal, menghindari macet. Spray Link Mengatasi elephant flow (arus data super besar) yang biasanya bikin hash polarization (semua numpuk di satu jalur). Dengan spray, data dipecah seperti rombongan motor yang bisa menyebar ke semua jalur, bukan truk panjang yang terjebak di satu lajur. FGLB (Flexible Global Load Balancing) Bukan cuma lihat kondisi macet di pintu masuk, tapi juga di pintu keluar jaringan. Dengan hardware probing, setiap switch tahu kondisi jalur lain secara real-time. Begitu ada kemacetan, traffic bisa langsung dialihkan ke jalur alternatif. Apa Artinya untuk Bisnis? Efisiensi maksimal: setiap investasi switch benar-benar dimanfaatkan penuh. Risiko rendah: kompatibilitas dengan berbagai komponen, mengurangi vendor lock-in. Skalabilitas: cocok untuk jaringan komputasi skala besar di era AI. Dan ini baru permulaan—H3C juga tengah menyiapkan arsitektur DDC (Diversified Dynamic-Connectivity), level load balancing berikutnya yang lebih cerdas lagi. Jadi, open & decoupled intelligent computing network bukan sekadar tren, tapi kebutuhan mendesak. Dengan presisi, fleksibilitas, dan teknologi load balancing canggih, AI computing bisa berjalan tanpa hambatan—secepat mungkin, seefisien mungkin. Infrastruktur IT yang kuat adalah kunci produktivitas perusahaan. Dengan h3c indonesia, Anda bisa mendapatkan solusi IT lengkap yang sesuai dengan kebutuhan Anda. iLogo Indonesia sebagai mitra terpercaya siap mengintegrasikan semuanya agar bisnis Anda tetap berjalan lancar dan aman. Hubungi kami sekarang atau kunjungi h3c.ilogoindonesia.id untuk informasi lebih lanjut!
Tag: AI
Wawasan Teknis Komputasi Cerdas | Mengapa Kita Memerlukan Jaringan Pusat Komputasi Cerdas yang Terbuka dan Terpisah? Bagian 2
Pada artikel sebelumnya, kita membahas penerapan arsitektur “fat-tree” dalam jaringan komputasi AI: arsitektur ini biasanya memastikan ketersediaan transmisi data yang tinggi melalui koneksi tautan yang padat. Kunci dari masalah ini adalah bagaimana memanfaatkan tautan-tautan tersebut secara efektif untuk mendistribusikan lalu lintas data secara rasional di setiap tautan. Hal ini mirip dengan jalan tol: meskipun memiliki empat jalur, jika semua kendaraan menumpuk di satu jalur, kemacetan tidak dapat dihindari. Dalam skenario komputasi AI, terutama selama operasi seperti “All Reduce” di mana semua GPU bertukar data secara bersamaan, tekanan komunikasi yang besar mengharuskan setiap tautan dalam jaringan komputasi AI digunakan sepenuhnya. Di bawah kebutuhan ini, kita harus menyeimbangkan keandalan dan efisiensi melalui pengendalian yang presisi. Inti dari strategi pengendalian ini adalah mendeteksi kemacetan jaringan dan memulai pengalihan lalu lintas, memberi tahu perangkat sebelumnya untuk menurunkan kecepatan hingga jalur bebas dari kemacetan. Namun, pengaturan yang tidak tepat dapat membuang-buang sumber daya—misalnya, pembatasan kecepatan karena kemacetan sementara yang tidak perlu dapat merusak efisiensi pelatihan. Dengan demikian, tujuan kita mirip dengan pembalap mobil yang mencari kecepatan optimal saat melewati tikungan: bukan hanya perlambatan berlebihan untuk menjaga kendali, maupun percepatan yang sembrono yang bisa mengarah pada ketidakstabilan. Kondisi ideal adalah menjaga keseimbangan antara daya cengkeram dan selip, sehingga mencapai kecepatan maksimum dengan aman. Demikian juga, jaringan komputasi AI yang ideal harus mengirimkan data dengan kecepatan tertinggi tanpa hambatan, memerlukan penjadwalan yang sangat presisi. Bahkan kemacetan satu detik harus hanya memicu pengurangan kecepatan singkat, diikuti dengan pemulihan cepat untuk memaksimalkan efisiensi. Untuk mencapai keseimbangan ini, H3C telah mengembangkan serangkaian teknologi penjadwalan presisi, memastikan keandalan jaringan dan memaksimalkan efisiensi. Hal ini memungkinkan setiap switch yang diinvestasikan oleh pelanggan beroperasi pada performa puncaknya, menghindari waktu idle sumber daya dan memberikan nilai maksimal. Selanjutnya, kita akan membahas lebih dalam mengenai teknologi penjadwalan presisi ini. Sebelum mengimplementasikan teknologi penjadwalan presisi, kita harus membangun arsitektur dasar yang dapat beradaptasi dengan berbagai teknik penjadwalan. Berdasarkan standar terbuka, teknologi Ethernet telah mendapatkan adopsi luas, dan H3C tetap berkomitmen pada hal ini. Berdasarkan Ethernet, fungsi dan antarmuka yang kami terapkan dalam jaringan pusat data mengikuti prinsip keterbukaan, memastikan kompatibilitas dengan sistem penjadwalan komputasi pengguna, pengendali SDN, atau penyedia cloud. Selain itu, H3C beroperasi di domain server, memungkinkan validasi kompatibilitas preemptive untuk NIC GPU dan modul optik pelanggan. Ini mengurangi risiko pengadaan, karena komponen dari merek manapun dapat divalidasi di platform H3C untuk memastikan operasi yang mulus. Dalam penawaran produk, H3C menyediakan berbagai pilihan, baik perangkat chassis maupun box, yang melayani jaringan dengan skala berbeda. Hal ini sangat menguntungkan untuk jaringan komputasi besar. Oleh karena itu, kami menciptakan arsitektur dasar yang fleksibel yang dapat beradaptasi dengan berbagai teknologi penjadwalan dan skenario pelanggan. Setelah mendirikan arsitektur dasar, langkah krusial berikutnya adalah memastikan penyeimbangan beban jaringan yang efektif—pemanfaatan sumber daya bandwidth pada tautan yang tersedia. Bergantung pada topologi jaringan dan pola lalu lintas, pengguna dapat memilih berbagai teknologi penyeimbangan beban. LBN (Load Balancing Network) LBN adalah teknologi pertama yang kami jelaskan menggunakan analogi jalan tol. Skenario kemacetan umum di jalan tol (terutama di pintu masuk/keluar) terjadi ketika kendaraan dari beberapa jalur bergabung secara kacau, menciptakan titik mampat. Bayangkan ada empat gerbang tol, masing-masing sesuai dengan satu jalur pintu masuk dan keluar. Kendaraan yang masuk melalui Gerbang 1 diarahkan ke Jalur 1, Gerbang 2 ke Jalur 2, dan seterusnya. Ini mengikat bandwidth jalur masuk dan keluar, mencegah kontensi lintas jalur. Dalam pusat data, LBN menerapkan manajemen presisi serupa. Ia mengikat setiap port masuk switch yang terhubung dengan NIC server GPU (seperti jalan tol ramp) ke port keluar tertentu (ramp keluar), menciptakan “jalur ekspres” yang didedikasikan untuk lalu lintas data. Ini memastikan bahwa aliran besar dari setiap pintu masuk mendapatkan bandwidth upstream eksklusif, menghindari kontensi. Mekanisme ini menjamin bandwidth yang cocok antara port upstream dan downstream, memungkinkan lalu lintas eksklusif dan pemanfaatan jaringan yang tinggi. DLB (Dynamic Load Balancing) Selanjutnya adalah DLB, yang dijelaskan dengan menggunakan analogi pengiriman kontainer kereta. Pengiriman kontainer tradisional menggunakan rute tetap antar kota—pasangan asal dan tujuan yang sama selalu melewati jalur yang sama, meskipun jalur alternatif sedang tidak digunakan saat permintaan puncak. DLB bertindak seperti pengatur muatan cerdas. Pertama, ia membagi barang yang akan dikirim menjadi “flowlet” (kelompok kecil). Sebelum pengiriman antar kota, DLB mengidentifikasi jalur yang paling sedikit kemacetan dan menetapkan flowlet ke jalur tersebut. Setiap flowlet dikirim secara independen, memastikan keseimbangan di semua jalur. Dalam jaringan komputasi AI, kecerdasan DLB sangat penting. Ketika ribuan GPU mengirimkan data secara bersamaan, mirip dengan pengiriman kontainer saat jam sibuk, pendekatan jalur tetap dapat menyebabkan kemacetan. DLB memastikan setiap flowlet (kelompok paket) menemukan jalur optimal, memberikan jaringan yang stabil dan efisien untuk pelatihan AI. Spray Link Solusi ketiga, Spray Link, mengatasi aliran besar dan polarisasi hash. Kembali ke analogi jalan tol empat jalur: mendistribusikan kendaraan dari berbagai pintu masuk membutuhkan algoritma universal. Metode konvensional mungkin mengklasifikasikan kendaraan berdasarkan warna, ukuran, atau tinggi, untuk mencapai keseimbangan di berbagai jalan tol. Namun, jaringan komputasi AI berbeda—semua GPU mengirimkan data secara bersamaan, seperti truk super panjang yang tidak dapat dipisahkan dan terjebak di satu jalur, menyebabkan “polarisasi hash” dan menurunnya efisiensi. Spray Link terinspirasi dari konvoi sepeda motor. Bahkan dalam kelompok besar, setiap sepeda motor dapat berjalan secara independen. Dengan membagi aliran data menjadi segmen-segmen (seperti sepeda motor) dan menugaskannya ke jalur yang berbeda, Spray Link mengatasi keterbatasan tradisional, memungkinkan distribusi seimbang dan efisiensi jaringan yang lebih tinggi. FGLB (Flexible Global Load Balancing) Strategi sebelumnya—baik pemotongan aliran atau jalur khusus—berfokus pada kemacetan pintu masuk switch tunggal. Namun, jaringan terdiri dari beberapa switch, dan data sering melewati beberapa node. Meskipun switch individual membuat keputusan pemrosesan lokal, mereka tidak memiliki visibilitas terhadap kemacetan yang lebih jauh. Misalnya, meskipun “gerbang tol” yang berdekatan menetapkan jalur khusus, kemacetan keluar jauh mungkin tidak terdeteksi, memperburuk kemacetan. Tanpa kesadaran global, efisiensi jaringan secara keseluruhan menurun. Untuk mengatasi ini, H3C mengembangkan FGLB (Flexible Global Load Balancing), teknologi probe berbasis perangkat keras yang memungkinkan pemantauan lintas switch secara real-time. “Gerbang tol” berbagi status lalu lintas jalur keluar secara instan. Setelah mendeteksi kemacetan, sistem segera mengalihkan lalu lintas lokal ke jalur alternatif, menghindari kemacetan. Meskipun jaringan dunia nyata…
