Seiring dengan batch terbaru dari platform ponsel pintar mid-range baru, Qualcomm telah membuat pengumuman yang lebih besar di AI Day-nya di San Francisco. Raksasa chip mobile ini membuat permainan lain untuk server, setelah meninggalkan rentang Centriq pada tahun 2018. Kali ini, perusahaan memanfaatkan teknologi di bidang AI untuk mendapatkan kakinya di pintu komputasi awan. Chip pertama yang kami beri nama platform Qualcomm Cloud AI 100.
Platform Cloud AI 100 bukan merupakan pengemasan ulang chip ponsel, ini adalah desain 7nm dari atas ke bawah untuk tugas-tugas inferensi AI, bukan pelatihan. Itu berarti bahwa chip akan mengeruk angka yang melewati jaringan saraf daripada digunakan untuk melatih mereka. Ini tampaknya menempatkan Qualcomm dalam persaingan langsung dengan seri Tesla T4 Nvidia dan chip inferensi TPU Google Edge yang dirancang untuk server dan komputasi awan. Sama seperti para pesaingnya, Qualcomm menyadari bahwa pemrosesan AI paling efisien tidak dilakukan pada CPU, GPU, dan FGPA, tetapi membutuhkan akselerator AI khusus.
Dalam hal kinerja, Qualcomm memperkirakan peningkatan kinerja AI puncak lebih besar dari 50x di atas kemampuan Snapdragon 855-nya. Snapdragon 855 menawarkan sekitar 7TOPS kinerja, yang menunjukkan Cloud AI 100 berada di kisaran 350TOPS. Itu pasti akan memberi T4 Nvidia uangnya. Qualcomm percaya memiliki keunggulan pada kinerja per watt juga, membanggakan peningkatan 10x dibandingkan dengan solusi inferensi AI paling maju di industri yang digunakan saat ini. Saat Anda menghasilkan banyak, efisiensi daya dapat menghemat banyak tagihan listrik bagi perusahaan. Selain itu, Qualcomm ingin memanfaatkan keahliannya dalam pemrosesan sinyal dan 5G, sehingga platform cloudnya dapat bekerja di ujung dalam jaringan latensi yang sangat rendah di masa depan.
Ketika ditanya, Qualcomm tidak akan mengomentari apakah arsitektur yang digunakan dalam Cloud AI 100 adalah milik atau dilisensikan dari tempat lain. Saya bertanya-tanya apakah ini adalah penampilan pertama arsitektur Arm Trillium AI, yang juga dirancang khusus untuk beban kerja inferensi dengan anggaran daya rendah. Tetapi spekulasi yang cukup, Qualcomm mengatakan bahwa itu akan berbagi lebih banyak informasi tentang arsitektur AI di masa depan.
Akhirnya, untuk mendukung pengembang Cloud AI 100 Qualcomm bekerja dengan sebagian besar, jika tidak semua, tumpukan perangkat lunak terkemuka di industri. Ada dukungan untuk kerangka kerja Caffe, Keras, mxnet, TensorFlow, PaddlePaddle, dan Cognitive Toolkit, bersama dengan runtime Glow, OnnX, dan XLA.
Qualcomm Cloud AI 100 diharapkan untuk memulai pengambilan sampel kepada pelanggan di
