Dengan pesatnya perkembangan-model AI berskala besar, agen AI, dan aplikasi multimodal, sistem komputasi AI menghadapi tantangan baru: dapatkah kemampuan penyimpanan mengimbangi peningkatan daya komputasi? Baru-baru ini, industri penyimpanan global mengalami kemajuan yang signifikan ketika SK Hynix dan SanDisk bersama-sama merilis serangkaian standar industri pertama untuk High Bandwidth Flash (HBF), yang menandai dimulainya fase pengembangan standar untuk-teknologi penyimpanan AI generasi berikutnya.
Berita ini tidak hanya menarik perhatian rantai industri semikonduktor tetapi juga menandakan bahwa persaingan dalam infrastruktur AI secara bertahap beralih dari sekadar mengejar kinerja komputasi ke tahap baru "optimasi sinergis komputasi + penyimpanan". Bagi produsen server, operator pusat data, dan perusahaan rantai pasokan perangkat keras terkait, pengembangan HBF dapat menjadi arah penting untuk peningkatan arsitektur sistem AI di masa depan.
Akankah Penetapan Sistem Standar HBF Mempercepat Pembentukan Ekosistem Penyimpanan AI?
Spesifikasi standar HBF dikembangkan di bawah Kelompok Kerja Teknis HBF dari Open Compute Project (OCP), dengan SK Hynix dan SanDisk berpartisipasi sebagai kontributor teknis utama. Sementara itu, Google dan perusahaan chip AI Tensorrent telah bergabung dengan aliansi tersebut, memberikan dukungan dalam verifikasi teknologi, desain antarmuka, dan pengembangan ekosistem.
Standar ini terutama menargetkan sistem inferensi AI dan aplikasi akselerator AI, menetapkan kerangka teknis terpadu yang mencakup antarmuka sistem, spesifikasi kelistrikan, desain tumpukan chip, keandalan pengemasan, dan pedoman baca/tulis perangkat lunak.
Dibandingkan dengan solusi penyimpanan tradisional, HBF bertujuan untuk mengatasi tekanan akses data yang dihasilkan oleh-skala model AI yang terus berkembang, memungkinkan kapasitas lebih besar, sumber daya penyimpanan bandwidth lebih tinggi berada lebih dekat ke inti komputasi, sehingga meningkatkan efisiensi sistem secara keseluruhan.
Mengapa industri AI membutuhkan teknologi penyimpanan baru seperti HBF?
Dalam beberapa tahun terakhir, aplikasi AI, yang dicontohkan oleh model bahasa besar, telah berkembang pesat, dengan skala parameter model yang terus meningkat. Dari miliaran hingga ratusan miliar parameter, sistem AI memberikan tuntutan yang lebih tinggi pada kemampuan-pembacaan data berkecepatan tinggi.
Saat ini, Memori Bandwidth Tinggi (HBM), dengan kecepatan transfer datanya yang sangat tinggi, telah menjadi komponen penyimpanan penting bagi akselerator AI. Namun, karena biayanya yang tinggi dan kapasitasnya yang terbatas, HBM rentan terhadap kekurangan kapasitas ketika menangani inferensi model berskala ultra-besar-.
Teknologi HBF adalah tingkat penyimpanan baru yang muncul dengan latar belakang ini. Ia menggunakan metode pengemasan canggih yang mirip dengan HBM, menumpuk beberapa chip NAND Flash untuk mencapai kapasitas penyimpanan yang lebih besar sambil mempertahankan kecepatan transfer data yang tinggi.
Menurut rencana teknologi yang relevan, produk-HBF generasi pertama bertujuan untuk mencapai kapasitas-tumpukan tunggal sebesar 512 GB dan menyediakan bandwidth baca sekitar 1,6 TB/dtk, yang menunjukkan keunggulan signifikan dalam perluasan kapasitas dan pengendalian biaya unit.
Apa skenario penerapan HBF di masa depan?
Dari perspektif aplikasi industri, HBF lebih cocok untuk menangani tugas data dengan kebutuhan baca yang tinggi. Misalnya, selama inferensi model AI, bobot model, database vektor, dan beberapa data cache memerlukan pembacaan yang sering, dan HBF dapat secara efektif mengurangi tekanan transfer data pada perangkat penyimpanan tradisional.
Kedepannya, HBF diharapkan dapat diterapkan pada:
Server AI dan sistem penyimpanan pusat data;
Platform inferensi model bahasa-berskala besar;
Sistem pemrosesan data mengemudi yang cerdas;
Infrastruktur AI komputasi awan;
Peralatan-komputasi berkinerja tinggi (HPC).
Terutama dengan pesatnya perkembangan agen AI, model perlu menangani informasi kontekstual yang lebih kompleks dan interaksi data-waktu nyata, sehingga semakin meningkatkan pentingnya penyimpanan-berkapasitas tinggi,-bandwidth tinggi.
Akankah HBF menggantikan HBM?Persaingan industri masih memerlukan-pengamatan jangka panjang.
Meskipun HBF telah menunjukkan potensi pengembangan yang signifikan, industri secara umum percaya bahwa HBF tidak akan sepenuhnya menggantikan HBM, namun lebih cenderung menjadi lapisan tambahan dalam arsitektur penyimpanan AI.
Karena HBF didasarkan pada teknologi NAND Flash, masa pakai tulis dan hapusnya terbatas, sehingga lebih cocok untuk aplikasi dengan pembacaan yang sering dan pembaruan data yang jarang, seperti menyimpan sebagian parameter model, data cache historis, dan tugas pengambilan data berskala besar.
Sistem AI di masa depan mungkin akan membentuk arsitektur penyimpanan yang lebih terdiversifikasi: HBM akan menangani tugas akses-latensi rendah dan frekuensi tinggi-frekuensi tinggi, sementara HBF akan menangani kebutuhan penyimpanan data-berkapasitas lebih besar, dan keduanya bekerja sama untuk meningkatkan efisiensi komputasi AI.
Kesimpulan: Peluncuran standar HBF akan mendorong infrastruktur AI ke tahap baru.
Promosi standar HBF yang dilakukan SK Hynix dan SanDisk tidak hanya merupakan peningkatan teknologi, tetapi juga mewakili rantai industri AI yang mengeksplorasi solusi penyimpanan baru. Seiring dengan terus berkembangnya aplikasi AI global, mencapai akses data-berbiaya lebih rendah,-efisiensi lebih tinggi akan menjadi kunci persaingan infrastruktur AI di masa depan.
Bagi produsen semikonduktor, perusahaan peralatan server, dan perusahaan rantai pasokan industri, pengembangan ekosistem HBF patut mendapat perhatian terus-menerus. Dengan peningkatan standar secara bertahap dan perluasan aliansi industri yang berkelanjutan,-pasar penyimpanan AI generasi berikutnya dapat membuka peluang pertumbuhan baru.
