KALIMANTAN BARAT — CEO Qualcomm Cristiano Amon memprediksi smartphone yang mampu menjalankan model AI lokal berukuran 100 miliar parameter bakal hadir pada 2028. Sejumlah perusahaan AI disebut tengah mengembangkan perangkat dengan kemampuan tersebut, meski tantangan kapasitas RAM, harga memori, dan panas masih membayangi. Target ini menentukan arah industri chip mobile dan ekosistem AI on-device di pasar seperti Indonesia.
Prediksi Qualcomm itu disampaikan langsung oleh Cristiano Amon. Ia menyebut sejumlah perusahaan AI kini mengejar perangkat yang bisa menjalankan model besar tanpa bergantung pada server cloud.
Bagi pengguna smartphone, kemampuan menjalankan AI lokal berarti pemrosesan data tidak perlu dikirim ke pusat data. Respons lebih cepat, privasi lebih terjaga, dan biaya inferensi bisa ditekan. Namun, jalan menuju 100 miliar parameter masih panjang.
Kapasitas RAM Jadi Penghalang Utama
Menjalankan model AI 100 miliar parameter menuntut memori yang jauh di atas standar smartphone saat ini. Dengan kompresi 4-bit, model sekelas itu butuh sekitar 50GB RAM. Versi 2-bit pun masih memerlukan minimal 25GB hanya untuk menyimpan parameternya.
Angka itu belum menghitung kebutuhan RAM untuk sistem operasi dan operasi background lainnya. Smartphone saat ini umumnya masih menawarkan RAM hingga 16GB. Harga dan pasokan DRAM juga belum kembali normal, sehingga menaikkan kapasitas memori secara masif bukan perkara mudah.
Beban panas menjadi konsekuensi berikutnya. Menjalankan model besar secara terus-menerus berisiko membuat perangkat cepat panas dan mengalami penurunan performa. Ini masalah yang sudah muncul di perangkat flagship yang menjalankan model AI berukuran jauh lebih kecil.
Pendekatan Teknis yang Bisa Ditempuh
Melansir Wccftech, ada beberapa pendekatan untuk mengatasi keterbatasan tersebut. Model AI bisa dijalankan sebagian melalui storage, meski kecepatannya lebih rendah dibandingkan RAM.
Opsi lain adalah arsitektur Mixture of Experts (MoE) yang hanya mengaktifkan sebagian parameter saat memproses setiap token. Cara ini membuat komputasi lebih efisien tanpa harus membangunkan seluruh model.
Alternatif yang lebih realistis adalah memakai model AI lebih kecil yang telah melewati proses distilasi. Tujuannya agar kemampuannya mendekati model besar, tanpa menuntut smartphone menyediakan puluhan gigabita RAM khusus untuk AI.
Konteks Industri Chip Mobile
Qualcomm bukan satu-satunya pemain yang mendorong AI on-device. MediaTek, Apple, dan Google juga berlomba menghadirkan akselerator neural di chip mobile mereka. Persaingan ini menentukan seberapa cepat model AI besar bisa berjalan di genggaman pengguna.
Untuk pasar Indonesia, implikasinya terasa pada perangkat mid-range dan flagship yang bakal mengadopsi teknologi ini. Jika RAM dan harga DRAM belum membaik, fitur AI lokal berkapasitas besar kemungkinan lebih dulu hadir di perangkat premium.
Prediksi Qualcomm bukan hal yang mustahil. Namun menjalankan model 100 miliar parameter secara lokal dan terus-menerus di smartphone masih menyisakan tantangan besar. Realisasinya pada 2028 akan sangat bergantung pada kemajuan teknologi memori dan efisiensi arsitektur chip.