Di era yang penuh gejolak ini dan lonjakan pasar saham, mari kita lihat di mana kita bisa menemukan sumber pertumbuhan baru. Nvidia akan fokus pada peluang pertumbuhan tambahan dalam pemrosesan Inferensi, Perangkat Lunak, Edge, dan Otomotif; Nvidia masih jauh dari Puncak Kecerdasan Buatan.
Ya, GTC adalah acara yang sangat menyenangkan. Jensen. Kulit hitam. Teknologi yang menakjubkan. Demo-demo ini sangat keren. Seperti suasana pesta, tahun ini disambut dengan kenaikan luar biasa dalam hampir semua saham AI, terutama Nvidia. Berikut adalah ringkasan dari apa yang akan saya cari dari Jensen dan pameran tersebut.
Saya telah menghadiri GTC sejak tahun 2012 dan telah melihat konferensi tersebut berubah dari para penggemar grafis menjadi para PhD AI, dari ratusan peserta menjadi puluhan ribu, dan dari pengembang aplikasi menjadi campuran investor dan perusahaan. Tahun ini seharusnya berbeda, jika bukan karena triliunan dolar tambahan yang pasar berikan kepada Pemimpin GPU dan AI.
Apa yang harus kita cari: Perangkat Keras
Ya, kami akan melihat perangkat keras baru untuk pelatihan dan inferensi, yang dipimpin oleh Blackwell B100 yang baru, kemungkinan sebuah processor pelatihan dan inferensi untuk LLMs yang mengikuti kesuksesan luar biasa Hopper. Tetapi Nvidia dikabarkan kehabisan kapasitas Hopper (dan mungkin semua persediaan HBM untuk CoSWoS) untuk sisa tahun 2024, jadi saya curiga kami akan mendengar banyak hal lagi tentang H100, H200, dan terutama GH200. Grace Hopper akan memiliki banyak pelanggan di panggung yang memuji kinerjanya dan kapasitasnya.
B100, yang kami perkirakan akan menggandakan kinerja, memiliki akselerator model khusus tertentu, dan mungkin menambahkan 25% dari kapasitas HBM, akan menjadi pendapatan pada tahun 2025. Tetapi Nvidia bisa menghasilkan banyak uang pada tahun 2024 dengan mengoptimalkan portofolio produknya. Dan menambahkan produk yang memiliki masalah rantai pasokan yang lebih sedikit akan memperkuat pertumbuhan. Lebih lanjut tentang itu dalam sebentar lagi.
Inilah titik yang mungkin banyak orang lewatkan
Ada yang menantang saya untuk menjelaskan bagaimana peta jalan baru Nvidia tidak hanya akan menciptakan perputaran daripada pendapatan tambahan. Saya percaya bahwa seperti CPU AMD dan Intel, pelanggan menginginkan pilihan, dan kedua perusahaan menawarkan lebih dari 50 bagian (SKU) yang berbeda. Jika Anda menggunakan H100 atau H200 hari ini untuk sebuah model, Anda mungkin akan terus menggunakan GPU itu setidaknya selama setahun lagi untuk model tersebut. Tetapi model LLM ini ukurannya berlipat ganda setiap 3 bulan. Jadi, dalam setahun ketika Anda menggunakan GPU terbaru untuk model hari ini, kecerdasan buatan baru akan menjadi enam belas kali lebih besar, dalam perjalanan kita untuk menantang ukuran otak manusia. Dan lebih dari itu; Jensen telah memprediksi bahwa kita akan mendekati ukuran otak dalam sekitar 5 tahun. (Model AI adalah OOM 1/100 dari ukuran otak manusia 100T Sinaps hari ini, meskipun ini bukan perbandingan lengkap.)
Selain B100, saya akan terkejut jika kami tidak melihat sesuatu yang baru untuk pemrosesan inferensi AI generatif. L40S bagus, tetapi mungkin tidak memiliki cukup memori untuk inferensi LLM yang besar. L40S, berdasarkan GPU Lovelace, tidak menggunakan High Bandwidth Memory, tetapi menggunakan GDDR6, sehingga tidak serta-merta sebagai terbatas pasokan seperti kedua saudaranya yang lebih besar. Tetapi standar JDEC untuk GDDR7 sudah keluar, dengan pengiriman diharapkan akhir tahun ini, dan saya akan terkejut jika Nvidia tidak mengumumkan GPU Lovelace baru yang mendukungnya, dengan dua kali kapasitas dan dua kali performa dari L40S.
Kuartal lalu, Nvidia mengatakan bahwa pemrosesan inferensi di pusat data menyumbang sekitar 40% dari pendapatan. Saya curiga mereka memiliki tujuan untuk melebihi 60% pada akhir 2024, dan untuk mencapai itu, mereka membutuhkan platform yang lebih terjangkau. Lovelace dengan GDDR7 bisa saja menjadi jawabannya. (Atau mungkin tentang hal lain yang belum saya pikirkan!)
AI Edge
Meskipun volume AI Edge akhirnya akan melampaui data center, lonjakan H100 telah sedikit menunda tren ini; ratusan juta pendapatan vs. puluhan miliar untuk pusat data. Meskipun demikian, kami mengharapkan Nvidia akan memberikan banyak perhatian pada apa yang berkembang di luar dinding pusat data, di bidang robotika dan otomotif.
Jetson masih berbasis arsitektur GPU Ampere, dan telah berlangsung selama sekitar setahun. Saya tidak akan terkejut melihat Nvidia beralih ke Hopper, meskipun upgrade ke Lovelace juga mungkin masuk akal jika Nvidia percaya bahwa edge lebih memperhitungkan harga. Bagaimanapun juga, harapkan Jensen membuat pernyataan penting tentang pertumbuhan pasar ini. Perhatikan bahwa Volkswagon telah menambahkan ChatGPT ke mobil terbarunya, dan ini hanyalah permulaan.
Untuk EV, Nvidia sering memperbarui panduan pasokan otomotif pada GTC, telah meningkatkan menjadi $11M pada 2022 untuk peluang enam tahun. Mengingat situasi yang kurang stabil dalam EV selama setahun terakhir, akan menarik untuk melihat apakah ada pembaruan pada metrik ini. Saya yakin kita akan mendengar dari Mercedes Benz tentang status program Drive-nya, serta dari Jaguar Landrover, Volvo, Hyundai, dan BYD.
Perangkat Lunak: Puncak Selanjutnya
Kuartal lalu, Nvidia mengindikasikan ukuran bisnis perangkat lunaknya untuk pertama kalinya: telah tumbuh menjadi bisnis berjalan sebesar $1M. Ini termasuk Enterprise AI, platform AI yang komprehensif dari model dan alat AI Nvidia, serta Nvidia Omniverse Enterprise. Nvidia AI Enterprise tersedia sebagai lisensi abadi pada $3.595 per soket CPU dengan Dukungan Standar Bisnis Enterprise seharga $899 per tahun per lisensi. Jadi hampir $5K per pengguna!
Ini adalah hal yang sangat menarik. Dan sangat berharga. Mercedes, sebagai contoh, menggunakan Omniverse untuk membuat model digital sebuah pabrik baru, dan akan terus menggunakan Omniverse untuk mengelola dan mengembangkan pabrik tersebut seiring berjalannya waktu. Sementara Meta memiliki beberapa mainan dan avatar di dunia metaverse-nya, Nvidia memiliki insinyur dan kreator nyata yang berkolaborasi dan mensimulasikan (dengan fisika nyata) dunia digital yang akan menjadi kenyataan. Ini adalah salah satu hal yang paling menarik yang sedang dikerjakan Nvidia.
Dengan keberhasilan besar perangkat keras AI Nvidia, monetisasi lebih lanjut dari basis terpasang tersebut akan menjadi peluang besar bagi Nvidia ke depan. $1M hanyalah titik awal.
MediaTek: Kartu Wildcard
Jadi, jika ada satu area di mana Jensen mungkin memiliki ambisi yang belum tercapai, itu harus menjadi perangkat seluler. Tahun lalu di Computex, Nvidia dan MediaTek mengumumkan kolaborasi sedang berlangsung untuk otomotif, dengan Mediatek mengembangkan SoC dan Nvidia menyediakan GPU-nya. “Ini merupakan kombinasi dari dua perusahaan dengan keterampilan yang sangat saling melengkapi,” kata Huang saat konferensi pers. “Kami bekerja sama dengan salah satu perusahaan SoC terbesar dan paling berprestasi di dunia … Kami memiliki MediaTek dalam saku kita, di rumah kita, dan sangat bagus untuk bisa bermitra dalam upaya ini.”
Bagian yang “di saku kita” yang menarik perhatian kami. Kami baru-baru ini menulis bahwa Nvidia dilaporkan oleh Reuters tertarik untuk mengejar proyek silikon kustom. Sementara saya merujuk penyedia layanan cloud sebagai taktik yang mungkin, boleh jadi Nvidia bermaksud membantu MediaTek meningkatkan permainan GPU mereka, mungkin dengan teknologi chiplets kepada pembuat chip handset.
Kesimpulan
Nah, telah menyenangkan untuk berspekulasi, tapi kita akan segera tahu apa yang dimiliki Jensen dalam lengan kulitnya. Saya hanya bisa menjanjikan satu hal pasti: kita semua akan terkejut! Temui saya di acara tersebut, dan pastikan untuk mengikuti artikel-artikel saya di Forbes! Terima kasih!