DeepSeek R1 hadir di PC Copilot+, pengembangan ai yang lebih efisien

Microsoft baru-baru ini mengumumkan bahwa mereka akan menghadirkan versi yang dioptimalkan dari model AI DeepSeek R1 untuk PC Copilot+, dengan tujuan memungkinkan pengembang menciptakan fitur AI yang berjalan secara efisien langsung pada perangkat (on-device). Model AI ini menarik perhatian industri karena biaya pelatihannya yang jauh lebih rendah dibandingkan model AI lain dari perusahaan Barat.

Copilot+ PCs yang menggunakan platform Qualcomm Snapdragon X akan menjadi perangkat pertama yang mendukung model ini, dengan dukungan untuk prosesor Intel Core Ultra 200V dan AMD Ryzen AI 300 yang akan menyusul. Microsoft juga telah merilis versi kompak dari DeepSeek R1, yaitu DeepSeek-R1-Distill-Qwen-1.5B, dan berencana meluncurkan model 7B serta 14B dalam waktu dekat.

Dilansir dari Gizmochina (31/1), Model-model ini dirancang untuk memanfaatkan kemampuan Neural Processing Unit (NPU) pada PC Copilot+, sehingga memungkinkan pengembangan dan penggunaan AI secara lebih efisien di perangkat lokal.

Pengembang yang ingin menggunakan DeepSeek R1 pada PC Copilot+ dapat mengunduh Microsoft AI Toolkit serta ekstensi Visual Studio Code. Model ini akan tersedia dalam format ONNX QDQ di katalog model AI Toolkit, sehingga dapat digunakan untuk pengujian dan pengembangan aplikasi secara lokal. Selain itu, Microsoft juga akan menyediakan DeepSeek R1 melalui Azure AI Foundry, memungkinkan bisnis untuk mengintegrasikan AI canggih dengan lebih aman dan bertanggung jawab.

Upaya Microsoft untuk menghadirkan AI lokal ke PC juga didukung oleh proyek Phi Silica, yang berfokus pada inferensi AI yang efisien dengan konsumsi daya baterai dan sumber daya minimal. Model DeepSeek R1 yang dioptimalkan untuk NPU menggunakan teknik yang dipelajari dari proyek ini, termasuk quantization low-bit dan pemetaan transformer ke NPU. Dengan teknologi ini, pengembang dapat membangun aplikasi AI yang lebih responsif dan hemat daya.

Dengan langkah ini, Microsoft berharap dapat memberikan alat yang lebih canggih bagi pengembang untuk menciptakan aplikasi AI inovatif yang bekerja secara efisien di perangkat pengguna. Ke depan, pengguna Windows dapat mengharapkan integrasi AI yang lebih seamless dan optimal dalam ekosistem mereka.