Pengurusan haba cip AI
Pada masa ini, gergasi teknologi lain seperti Microsoft, Google dan Meta turut mengembangkan pusat data mereka untuk melatih dan menjalankan model kecerdasan buatan mereka. Menurut laporan, Microsoft dan OpenAI merancang untuk membina projek pusat data yang akan merangkumi superkomputer dengan berjuta-juta cip pelayan khusus, dan projek semasa boleh menelan kos $115 bilion, termasuk superkomputer kecerdasan buatan yang dipanggil Stargate, dijangka dilancarkan pada 2028. Ketua Pegawai Eksekutif Meta Mark Zuckerberg juga menyatakan pada bulan Januari tahun ini bahawa infrastruktur pengkomputeran syarikat akan merangkumi 30000 kad grafik H100 menjelang akhir 2024. Beliau juga menambah, 'Jika GPU lain disertakan, terdapat kira-kira 600000 pengiraan setara H100.'.
AIGC adalah berdasarkan model besar dan data besar. Model besar merujuk kepada model yang boleh menyesuaikan diri dengan tugas hiliran selepas latihan mengenai data berskala besar dan luas. Selepas kemunculan model besar, (1) parameter model meningkat dalam magnitud; (2) Permintaan yang pelbagai mempercepatkan peningkatan kuasa pengkomputeran yang pelbagai: Kuasa pengkomputeran boleh dibahagikan kepada kuasa pengkomputeran asas, kuasa pengkomputeran pintar dan kuasa superkomputer mengikut padanan permintaan. Pada 2021, jumlah kuasa pengkomputeran peranti pengkomputeran global mencapai 615 EFlops, dengan kadar pertumbuhan 44%. Menjelang 2030, ia dijangka meningkat kepada 56ZFlops, dengan CAGR sebanyak 65%. Kuasa pengkomputeran pintar akan meningkat daripada 232EFlops kepada 52.5ZFlops, dengan CAGR melebihi 80%; Selepas kemunculan model besar, ia membawa trend baharu pertumbuhan kuasa pengkomputeran, dengan purata masa penggandaan selama 9.9 bulan untuk kuasa pengkomputeran.
Di sebalik peningkatan kuasa pengkomputeran, cip mesti mempunyai kecekapan pengkomputeran yang lebih tinggi dan menyelesaikan lebih banyak pengiraan dalam masa yang lebih singkat, yang tidak dapat dielakkan membawa kepada peningkatan dalam penggunaan tenaga cip. Ciri-ciri ketumpatan tinggi dan penggunaan kuasa tinggi bagi pusat data di pusat superkomputer menjadikan isu pelesapan haba semakin menonjol. Pusat data moden, terutamanya pusat superkomputer, biasanya mengandungi sejumlah besar peranti berkuasa tinggi yang menjana sejumlah besar haba semasa operasi. Jika haba tidak dapat dilesapkan tepat pada masanya dan berkesan, ia bukan sahaja akan menjejaskan prestasi peranti, tetapi juga boleh menyebabkan kegagalan perkakasan. Menurut laporan IDC, kira-kira 40% daripada penggunaan tenaga di pusat data digunakan untuk sistem penyejukan, menunjukkan bahawa penyelesaian penyejukan yang berkesan adalah penting untuk operasi pusat data.
Sistem penyejukan udara tradisional tidak lagi dapat memenuhi keperluan penyejukan superkomputer semasa, jadi teknologi penyejukan cecair secara beransur-ansur menjadi pilihan arus perdana dalam industri. Aplikasi teknologi penyejukan cecair membolehkan pusat data memuatkan lebih banyak peranti pengkomputeran dalam ruang yang sama, sambil mengurangkan penggunaan tenaga sistem penyejukan. Aplikasi teknologi penyejukan cecair bukan sahaja meningkatkan kecekapan pengiraan, tetapi juga mengurangkan penggunaan tenaga dan kos operasi dengan ketara. Teknologi penyejukan cecair boleh mengendalikan lebih banyak tugas pengkomputeran dengan penggunaan tenaga yang sama melalui pengaliran haba yang lebih cekap.
Dengan peningkatan permintaan untuk latihan AI dan pengkomputeran berprestasi tinggi, teknologi penyejukan cecair akan memainkan peranan yang lebih penting dalam pusat pengkomputeran super masa hadapan. Teknologi penyejukan cecair dijangka menjadi konfigurasi standard dalam pusat superkomputer dan pusat data yang besar pada tahun-tahun akan datang untuk memenuhi permintaan pengkomputeran yang semakin meningkat dan cabaran pelesapan haba.
