Qualcomm, Nvidia memperebutkan posisi teratas dalam tes efisiensi chip AI

Ringkasan

Nvidia mendominasi pasar untuk melatih model AI dengan data dalam jumlah besar.

Salah satu biaya utama tersebut adalah listrik, dan Qualcomm telah menggunakan sejarahnya merancang chip untuk perangkat bertenaga baterai. (REUTERS)

Chip kecerdasan buatan dari Qualcomm Inc mengalahkan Nvidia Corp dalam dua dari tiga ukuran efisiensi daya dalam kumpulan data uji baru yang diterbitkan.

Nvidia mendominasi pasar untuk melatih model AI dengan data dalam jumlah besar. Tapi setelah model AI tersebut dilatih, mereka digunakan lebih luas dalam apa yang disebut "inferensi" dengan melakukan tugas-tugas seperti membuat respons teks untuk petunjuk dan memutuskan apakah suatu gambar berisi kucing.

Analis percaya bahwa pasar untuk chip inferensi pusat data akan tumbuh dengan cepat karena bisnis memasukkan teknologi AI ke dalam produk mereka, tetapi perusahaan seperti Google Alphabet Inc sudah mengeksplorasi cara untuk menutup biaya tambahan yang akan ditambahkan.

Salah satu biaya utama tersebut adalah listrik, dan Qualcomm telah menggunakan sejarahnya merancang chip untuk perangkat bertenaga baterai seperti smartphone untuk membuat chip yang disebut Cloud AI 100 yang ditujukan untuk konsumsi daya yang hemat.

Dalam data pengujian yang diterbitkan pada hari Rabu oleh MLCommons, sebuah konsorsium teknik yang memelihara tolok ukur pengujian yang banyak digunakan dalam industri chip AI, Qualcomm AI 100 mengalahkan chip unggulan Nvidia H100 dalam mengklasifikasikan gambar, berdasarkan berapa banyak kueri server pusat data yang dapat dilakukan oleh setiap chip per watt.

Chip Qualcomm mencapai 227,4 kueri server per watt dibandingkan 108,4 kueri per watt untuk Nvidia.

Qualcomm juga mengalahkan Nvidia dalam deteksi objek dengan skor 3,8 kueri per watt versus 2,4 kueri per watt Nvidia. Deteksi objek dapat digunakan dalam aplikasi seperti menganalisis rekaman dari toko retail untuk melihat tempat yang paling sering dikunjungi pembeli.

Nvidia, bagaimanapun, mengambil posisi teratas dalam hal kinerja absolut dan istilah efisiensi daya dalam pengujian pemrosesan bahasa alami, yang merupakan teknologi AI yang paling banyak digunakan dalam sistem seperti chatbots. Nvidia mencapai 10,8 kueri per watt, sementara Qualcomm menempati peringkat kedua dengan 8,9 kueri per watt.