4 bulan yang lalu
Telset.id – Bayangkan hanya dengan empat GPU, Anda bisa mendapatkan performa nan sebelumnya memerlukan 16 unit. Itulah nan dihadirkan NVIDIA dengan seri terbaru mereka, GB300 berbasis arsitektur Blackwell. Bocoran benchmark dari CoreWeave baru saja mengungkapkan sungguh dahsyatnya lompatan efisiensi nan ditawarkan generasi ini. Dalam tes menggunakan model DeepSeek R1, empat GB300 bisa menyaingi 16 H100. Artinya, setiap kartu memberikan peningkatan throughput sekitar enam kali lipat. Apakah ini menjadi lompatan generasi terbesar NVIDIA sejauh ini?
Bagi Anda nan berkecimpung di bumi komputasi AI, angka-angka ini bukan sekadar klaim marketing. Ini adalah bukti nyata gimana penemuan hardware bisa mengubah landscape industri. NVIDIA tidak hanya mengandalkan peningkatan raw performance, tetapi juga efisiensi arsitektur nan memungkinkan pengurangan overhead komunikasi dan latensi. Hasilnya? Token nan dihasilkan lebih cepat, biaya per inference lebih rendah, dan skalabilitas nan jauh lebih mudah.
Platform GB300 NVL72 sendiri bisa diskalakan hingga 37TB memori dengan bandwidth 130TB/s, memungkinkannya menangani model AI sangat besar tanpa bottleneck seperti pada hardware lama. Teknologi 4-way tensor parallelism (TP4) nan diusungnya juga lebih efisien dibanding pendahulunya nan memerlukan 16-way splits (TP16) untuk mencapai skala serupa. Sedikit split berfaedah lebih sedikit overhead komunikasi, dan support NVLink serta NVSwitch generasi kelima dari NVIDIA menjaga latensi tetap rendah.
Bagi upaya nan menjalankan jasa AI berskala besar, efisiensi semacam ini bukan lagi sekadar nomor di atas kertas. CoreWeave mencatat bahwa peningkatan efisiensi ini langsung diterjemahkan menjadi faedah praktis untuk workload seperti model reasoning, di mana performa-per-watt dan latensi adalah aspek kritis. Namun, tentu saja hardware semaju ini tidak datang dengan nilai murah. Sistem berbasis GB300 NVL72 diperkirakan dibanderol mulai dari $300.000, menempatkannya firmly di territory enterprise.
Lalu, apakah harganya sebanding dengan performanya? Bagi perusahaan nan sudah berinvestasi besar dalam prasarana AI, lompatan performa sebesar ini bisa saja justify the cost. Apalagi mengingat sungguh ketatnya persaingan di industri AI saat ini, seperti prediksi JPMorgan nan menyebut OpenAI baru bakal untung di 2029. Memiliki hardware nan lebih efisien bisa menjadi pembeda signifikan.
NVIDIA sendiri bukan pemain baru dalam perihal penemuan komputasi high-end. Sebelumnya mereka juga telah memperkenalkan superkomputer AI berukuran mini berjulukan DGX Spark, menunjukkan komitmen mereka dalam mendemokratisasikan akses ke komputasi canggih. Namun, dengan GB300, mereka sepertinya sedang meningkatkan level permainan ke strata nan betul-betul berbeda.
Jika angka-angka awal ini terbukti konsisten seiring dengan ekspansi deployment, GB300 berpotensi menjadi salah satu lompatan generasi terbesar nan pernah dihadirkan NVIDIA — sekaligus menetapkan baseline baru untuk komputasi AI high-end. Dan dalam industri nan secepat ini, siapa nan tidak mau tetap berada di garis depan?
Perkembangan ini juga menarik untuk diamati dari sisi pesaing. Sementara NVIDIA terus memimpin dengan penemuan hardware-nya, perusahaan seperti MediaTek juga tidak tinggal tak bersuara dengan meluncurkan chipset flagship dengan AI dan gaming mumpuni. Persaingan nan sehat ini pada akhirnya bakal menguntungkan konsumen dan mendorong percepatan penemuan lebih lanjut.
Jadi, apa pendapat Anda? Apakah lompatan sebesar ini bakal mengubah langkah kita memandang komputasi AI? Atau justru menjadi pembuka jalan untuk inovasi-inovasi lain nan lebih spektakuler? Satu perihal nan pasti: dengan GB300, NVIDIA sekali lagi membuktikan bahwa mereka tetap nan terdepan dalam perlombaan AI hardware.
