Revolusi penyejukan cecair Nvidia untuk pelayan AI
Penggunaan kuasa cip AI termaju sentiasa meningkat, yang telah menjadi pemangkin kepada generasi pelayan AI DGX seterusnya untuk beralih ke arah penyejukan cecair. TDP semasa (kuasa reka bentuk terma) GPU H100 perdana Nvidia ialah 700W, yang telah melebihi had penyejukan udara tradisional. Nvidia dijangka akan melancarkan GPU B100 seni bina Blackwell dengan TDP kira-kira 1000W pada akhir tahun ini, dan penyejukan cecair pastinya diperlukan pada masa itu.
Untuk sistem pengkomputeran berprestasi tinggi, penyejukan cecair mempunyai beberapa kelebihan utama berbanding penyejukan udara:
Kecekapan pemindahan haba yang sangat baik membolehkan komponen dengan TDP yang lebih tinggi disejukkan sepenuhnya
Oleh kerana permintaan berkurangan untuk peminat berkelajuan tinggi, operasi lebih senyap
Reka bentuk sistem lebih padat, dan sink haba yang besar serta kipas mengambil lebih sedikit ruang
Potensi untuk menangkap dan menggunakan semula haba buangan dalam penukar haba cecair-cecair
Dengan menggunakan penyejukan cecair, Nvidia boleh terus melebihi had prestasi pemecut AI tanpa dihadkan oleh sistem penyejukan. Memandangkan kerumitan beban latihan kecerdasan buatan terus meningkat dan penggunaan kuasa perkakasan yang sepadan meningkat, ini adalah penting. Pelayan DGX AI Nvidia membungkus berbilang GPU ke dalam sistem yang dioptimumkan untuk beban kerja AI, yang telah diterima pakai dengan pantas oleh perusahaan berskala besar. Penyedia perkhidmatan awan utama seperti Google Cloud, Meta dan Microsoft telah menggunakan sistem DGX di pusat data mereka. Dalam beberapa tahun kebelakangan ini, apabila semakin banyak organisasi berusaha untuk memanfaatkan kuasa transformatif kecerdasan buatan, penggunaan sistem kecerdasan buatan Nvidia DGX telah berkembang dengan pesat.
Sistem Nvidia DGX mungkin menggunakan reka bentuk penyejukan rendaman lanjutan yang menggunakan cecair dielektrik. Penyejukan cip terus mengepam cecair dielektrik terus ke cip GPU dan komponen terma lain, tanpa memerlukan plat sejuk, mencapai lebih banyak pemindahan haba langsung. Ia boleh menyokong tahap TDP yang sangat tinggi (500W+) pada satu cip, mencapai sistem yang lebih padat.
Memandangkan kecerdasan buatan terus berkembang pada kelajuan yang menakjubkan, infrastruktur perkakasan yang disokong mesti berkembang secara serentak. Penyejukan cecair ialah teknologi pemboleh utama yang akan membolehkan pemecut skala ke tahap prestasi yang belum pernah berlaku sebelum ini. Transformasi ini bukan tanpa cabaran. Oleh kerana pusat data memerlukan transformasi infrastruktur penyejukan cecair dan pembangunan program penyelenggaraan baharu, faedah kecekapan tenaga, ketumpatan dan prestasi adalah penting dan tidak boleh diabaikan.
