Sejumlah konsumen kelas kakap Nvidia disebut menunda pesanan chip AI Blackwell terbaru karena mengalami masalah overheating dan konektivitas. Menurut laporan dari The Information, rak Blackwell GB200, yang merupakan komponen penting di pusat data AI, mengalami sejumlah masalah saat penggunaan awal. Salah satunya adalah konsumsi listrik yang sangat tinggi, mencapai antara 120-132 kW per rak. Konsumsi listrik yang tinggi ini membuat diperlukan sistem pendingin yang kuat untuk menjaga suhu tetap stabil. Namun sayangnya, sistem pendingin tradisional tidak mampu menangani panas yang dihasilkan oleh chip dengan konsumsi listrik sebesar itu.
Selain masalah overheating, rak Blackwell juga mengalami masalah interkoneksi antara chip satu dengan chip lainnya. Sebuah rak GB200 dapat berisi hingga 72 chip Blackwell, namun desain rak server yang ada saat ini tidak cukup mampu menangani panas yang dihasilkan oleh chip tersebut. Hal ini menyebabkan Nvidia meminta perubahan desain dari pemasoknya untuk mengatasi masalah ini.
Untuk mengatasi masalah ini, diperlukan kombinasi dari berbagai hal, seperti optimasi chip, pengembangan solusi pendinginan, dan perubahan infrastruktur rak server secara keseluruhan. Masalah ini membuat perusahaan teknologi besar seperti Amazon Web Services, Google, Microsoft, dan Meta untuk sementara waktu mengurangi pesanan rak GB200. Padahal, pesanan chip Blackwell ini bernilai lebih dari USD 10 miliar.
Misalnya, Microsoft yang sebelumnya berencana menggunakan rak GB200 dengan 50 ribu chip Blackwell di pusat data mereka di Phoenix, Amerika, akhirnya mengubah pesanan menjadi chip Hopper yang lebih lama karena masalah yang terjadi. Hal ini langsung berdampak pada saham Nvidia yang turun 4% setelah kabar penundaan pesanan ini tersebar.
CEO Nvidia, Jensen Huang, telah membantah tudingan overheating ini dengan menyatakan bahwa rak server berisi 72 chip Blackwell dapat diatasi dengan sistem pendingin air dalam pengujian awal. Namun, perusahaan harus bekerja keras untuk menyelesaikan masalah ini dan memastikan bahwa chip Blackwell dapat beroperasi dengan baik tanpa mengalami overheating atau masalah konektivitas.
Dengan adanya masalah ini, Nvidia harus bekerja sama dengan pemasoknya untuk melakukan perubahan desain yang diperlukan agar chip Blackwell dapat berfungsi dengan optimal. Perusahaan-perusahaan teknologi besar yang telah memesan chip Blackwell juga harus bersabar dan menunggu perbaikan yang dilakukan oleh Nvidia. Semoga masalah ini segera terselesaikan dan chip Blackwell dapat kembali menjadi salah satu pilihan utama di pasar AI.