Jadi, Elon Musk, miliarder yang punya X (yang dulu Twitter) dan juga CEO Tesla, bener-bener serius banget soal perlombaan teknologi AI global. Baru-baru ini, dia ngumumin kalau perusahaan teknologi yang dia dirikan, xAI, udah selesai ngebangun superkomputer AI bernama “Colossus”. Superkomputer ini udah resmi diluncurin dan aktif mulai akhir pekan lalu. Berita soal proyek ini pertama kali muncul di bulan Mei.
Menurut Musk, Colossus ini bertenaga 100.000 unit GPU H100 dari Nvidia dan udah online sejak akhir pekan kemarin. Elon bahkan nge-tweet tentang pencapaian ini, bilang kalau superkomputer ini dibangun dalam waktu 122 hari dan diklaim sebagai sistem pelatihan AI “terkuat di dunia.”
Kenapa bisa dibilang terkuat? Soalnya, Colossus pake 100.000 GPU, yang empat kali lebih banyak dibandingkan dengan klaster GPU terbesar yang ada sekarang, seperti yang dipake Meta buat melatih model AI-nya. Musk juga bilang kalau dia bakal gandakan kapasitas komputasi Colossus dalam beberapa bulan ke depan, setelah dia dapetin 50.000 GPU Nvidia H200 yang baru dan lebih canggih. GPU H200 ini sekitar dua kali lebih kuat dari H100.
Colossus ini dibangun khusus buat latih model bahasa besar (LLM) terbaru dari xAI, yaitu Grok-3. Model Grok ini adalah otak dari chatbot AI Grok yang bisa dinikmati pelanggan berbayar di X. Grok pertama kali muncul pada 2023 sebagai jawaban xAI untuk bersaing dengan GPT dari ChatGPT, Gemini, Llama 3.1, dan Claude. Terbaru, Grok-2 versi beta dirilis pada Agustus 2024 dan dilatih dengan 15.000 GPU H100, menawarkan performa lebih baik dan fitur baru untuk bikin gambar langsung dari X.
xAI rencananya bakal merilis Grok-3 di bulan Desember mendatang. LLM generasi baru ini bakal dilatih dan dijalankan dengan Colossus yang didukung oleh 100.000 GPU Nvidia H100. Proyek Colossus ini diperkirakan memakan biaya miliaran dollar AS. Untuk nyimbangin persaingan di arena AI global, xAI ngumpulin 6 miliar dollar AS dalam putaran pendanaan Seri B pada Mei lalu, dengan bantuan dari pemodal ventura besar kayak Andreessen Horowitz, Sequoia Capital, serta investor seperti Fidelity dan Kingdom Holding dari pangeran Saudi Alwaleed bin Talal.