Telko.id – NVIDIA memperkenalkan lompatan signifikan dalam performa komputasi AI melalui GPU berbasis arsitektur Blackwell terbaru, GB300. Berdasarkan benchmark terbaru dari CoreWeave, empat unit GB300 mampu menyamai kinerja 16 GPU H100 dalam menjalankan model DeepSeek R1.
Hasil ini menunjukkan peningkatan efisiensi hingga enam kali lipat per kartu, berkat peningkatan perangkat keras dan arsitektur yang lebih optimal.
Platform GB300 NVL72 dapat diskalakan hingga 37TB memori dengan bandwidth 130TB/s, memungkinkan penanganan model AI berskala besar tanpa hambatan yang biasa ditemui pada perangkat keras generasi sebelumnya.
NVIDIA juga mengimplementasikan tensor parallelism 4-way (TP4), sementara H100 memerlukan 16-way splits (TP16) untuk mencapai skala serupa.
Pengurangan splits berarti overhead komunikasi yang lebih rendah, didukung oleh konektivitas NVLink dan NVSwitch generasi kelima yang menjaga latensi tetap minimal.
Bagi pelaku bisnis yang mengandalkan layanan AI berskala besar, peningkatan ini berarti token yang dihasilkan lebih cepat, biaya per inferensi lebih rendah, dan skalabilitas yang lebih mudah.
CoreWeave menekankan bahwa efisiensi yang dicapai memberikan manfaat langsung untuk workload seperti reasoning models, di mana performa per watt dan latensi menjadi faktor kritis.
Baca Juga:
Meski demikian, harga perangkat ini tidak terjangkau untuk semua kalangan. Sistem berbasis GB300 NVL72 diproyeksikan dibanderol mulai dari $300.000, menempatkannya secara eksklusif di segmen enterprise.
Namun, bagi perusahaan yang telah berinvestasi besar dalam infrastruktur AI, lompatan performa ini dapat menjadi pembenaran atas biaya yang dikeluarkan.
Jika hasil awal ini konsisten seiring dengan perluasan deployment, GB300 berpotensi menjadi salah satu lompatan generasi terbesar yang pernah dihadirkan NVIDIA—sekaligus menetapkan standar baru dalam komputasi AI high-end.
Perkembangan ini juga sejalan dengan tren peningkatan permintaan akan perangkat keras yang mendukung AI generatif dan reasoning models di berbagai industri.
Dengan hadirnya GB300, NVIDIA semakin memperkuat posisinya di pasar komputasi AI yang terus berkembang. Inovasi ini tidak hanya berdampak pada percepatan riset dan pengembangan AI, tetapi juga membuka peluang baru dalam penerapan AI di skala enterprise.
Perusahaan seperti CoreWeave telah membuktikan bahwa efisiensi yang ditawarkan GB300 dapat langsung diterjemahkan menjadi keunggulan kompetitif.
Selain itu, adopsi tensor parallelism yang lebih efisien menunjukkan bahwa NVIDIA tidak hanya fokus pada peningkatan raw performance, tetapi juga pada optimasi sistem secara keseluruhan.
Pendekatan ini memungkinkan pengguna untuk mencapai hasil yang lebih baik dengan sumber daya yang lebih sedikit, baik dari segi daya, ruang, maupun biaya operasional.
Meskipun harga awal tergolong tinggi, skalabilitas dan efisiensi GB300 dapat memberikan ROI yang menarik dalam jangka panjang, terutama untuk perusahaan yang mengandalkan AI sebagai core business.
Dengan kemampuan menangani model yang lebih besar dan kompleks, GB300 memungkinkan inovasi yang sebelumnya terkendala oleh keterbatasan hardware.
Kehadiran GB300 juga memperkuat ekosistem NVIDIA di segmen high-performance computing, di mana mereka telah lama menjadi pemain dominan.
Arsitektur Blackwell tidak hanya membawa peningkatan performa, tetapi juga efisiensi energi yang semakin penting di era komputasi berkelanjutan.
Dengan semua keunggulan ini, GB300 diprediksi akan menjadi pilihan utama untuk pusat data AI generasi berikutnya, mendukung segala hal dari pelatihan model besar hingga inferensi real-time.
Lompatan generasi ini tidak hanya penting bagi NVIDIA, tetapi juga bagi seluruh industri yang bergantung pada komputasi AI canggih. (Icha)
