Nvidia secara agresif meningkatkan perangkat keras AI-nya saat ini, Blackwell, sambil mempersiapkan generasi berikutnya, Vera Rubin. Meskipun GPU Rubin yang sangat dinanti-nantikan baru akan hadir pada akhir tahun 2026, sistem Blackwell yang ada saat ini mengalami peningkatan kinerja yang signifikan saat ini melalui optimalisasi perangkat lunak. Strategi ini memungkinkan perusahaan untuk memaksimalkan investasi mereka pada infrastruktur yang ada sambil mempersiapkan masa depan.
Evolusi Cepat Blackwell
Nvidia tidak menunggu perangkat keras baru untuk memberikan nilai. Arsitektur Blackwell, yang dirilis pada tahun 2024, telah ditingkatkan dengan pengoptimalan untuk beban kerja inferensi dan pelatihan. Hanya dalam tiga bulan, Nvidia meningkatkan kinerja inferensi Blackwell hingga 2,8x tanpa memerlukan peningkatan perangkat keras apa pun. Hal ini dicapai melalui inovasi pada mesin inferensi TensorRT-LLM, termasuk:
- Peluncuran Ketergantungan Terprogram (PDL): Mengurangi latensi peluncuran kernel untuk throughput yang lebih cepat.
- Komunikasi Semua-ke-Semua: Menyederhanakan transfer data dengan menghilangkan buffer yang tidak diperlukan.
- Prediksi Multi-Token (MTP): Menghasilkan banyak token per forward pass, meningkatkan efisiensi.
- Format NVFP4: Format floating-point 4-bit yang mengurangi bandwidth memori tanpa mengorbankan akurasi.
Pengoptimalan ini menghasilkan biaya per juta token yang lebih rendah dan throughput yang lebih tinggi untuk penyedia cloud dan perusahaan.
Keuntungan Pelatihan dengan Blackwell
Perbaikan Blackwell tidak terbatas pada inferensi. Performa pelatihan juga mengalami peningkatan 1,4x hanya dalam lima bulan, berkat resep pelatihan yang dioptimalkan yang memanfaatkan presisi NVFP4. Hal ini menunjukkan komitmen Nvidia terhadap inovasi berkelanjutan di luar penerapan perangkat keras awal.
Vera Rubin: Lompatan Berikutnya
Terlepas dari keuntungan Blackwell, Nvidia sudah menantikan Vera Rubin, yang dijadwalkan untuk dirilis pada paruh kedua tahun 2026. Menurut pengujian internal Nvidia, Rubin menjanjikan peningkatan transformasional:
- Melatih model besar dengan jumlah GPU seperempat.
- 10x throughput per watt lebih tinggi untuk inferensi.
- Inferensi pada sepersepuluh biaya per token.
Metrik ini menunjukkan bahwa Vera Rubin akan secara signifikan mengurangi keekonomian operasi AI dalam skala besar, sehingga memungkinkan model yang lebih mumpuni dan efisien.
Apa Artinya Bagi Perusahaan
Bagi organisasi yang menerapkan infrastruktur AI saat ini, Blackwell tetap merupakan investasi yang bagus. Penerapan yang ada bisa langsung mendapatkan manfaat dari optimalisasi perangkat lunak terbaru, sehingga memberikan penghematan biaya tanpa belanja modal. Namun, perusahaan yang merencanakan pembangunan infrastruktur skala besar harus memasukkan Vera Rubin ke dalam peta jalan mereka.
Kesimpulan utamanya adalah Nvidia menawarkan pendekatan bertahap: memaksimalkan nilai dari penerapan Blackwell saat ini sambil mempersiapkan generasi berikutnya. Ini bukanlah keputusan salah satu/atau keputusan tersebut, melainkan sebuah strategi untuk tetap kompetitif dalam lanskap AI yang berkembang pesat.
Model pengoptimalan berkelanjutan Nvidia memastikan bahwa perusahaan dapat memperoleh nilai maksimum dari investasi mereka saat ini sambil memposisikan diri mereka untuk masa depan dengan arsitektur Vera Rubin yang akan datang.
