Fokus di AI, Intel juga luncurkan Gaudi 3

Intel tampaknya tidak selesai dalam mengumumkan produk baru yang berkaitan dengan AI. Selain mengumumkan Lunar Lake dan Xeon 6, mereka juga mengumumkan kehadiran akselerator AI Intel Gaudi 3 yang merupakan generasi terbaru dari Intel.

Sebagai satu-satunya alternatif yang telah diuji MLPerf selain Nvidia H100 untuk pelatihan dan inferensi model bahasa besar (LLM), arsitektur Gaudi memberikan kinerja GenAI yang dicari pelanggan dengan keuntungan harga-kinerja yang memberikan pilihan dan waktu penyebaran yang cepat dengan biaya total operasi yang lebih rendah.

Kit AI standar termasuk delapan akselerator Intel Gaudi 2 dengan universal baseboard (UBB) yang ditawarkan kepada penyedia sistem seharga $65,000 diperkirakan hanya sepertiga dari biaya platform kompetitif yang sebanding. Kit yang mencakup delapan akselerator Intel Gaudi 3 dengan UBB akan dihargai $125,000, diperkirakan dua pertiga dari biaya platform kompetitif yang sebanding.

Akselerator Intel Gaudi 3 akan memberikan peningkatan kinerja yang signifikan untuk tugas pelatihan dan inferensi pada model GenAI terkemuka, membantu perusahaan membuka nilai dalam data proprietari mereka. 

Kluster akselerator Intel Gaudi 3 meningkat menjadi 8,192 unit, yang diproyeksikan menawarkan waktu pelatihan hingga 40% lebih cepat dibandingkan dengan kluster GPU Nvidia H100 ukuran yang sama dan throughput pelatihan hingga 15% lebih cepat untuk kluster akselerator 64 unit dibandingkan Nvidia H100 pada model Llama2-70B.

Selain itu, Intel Gaudi 3 diproyeksikan menawarkan inferensi rata-rata hingga 2x lebih cepat dibandingkan Nvidia H100, menjalankan LLM populer seperti Llama-70B dan Mistral-7B.

Untuk membuat sistem AI ini tersedia secara luas, Intel bekerja sama dengan setidaknya 10 penyedia sistem global terkemuka, termasuk enam penyedia baru yang mengumumkan mereka akan membawa Intel Gaudi 3 ke pasar. 

Kolaborator baru hari ini termasuk Asus, Foxconn, Gigabyte, Inventec, Quanta, dan Wistron, memperluas penawaran produksi dari penyedia sistem terkemuka seperti Dell, Hewlett-Packard Enterprise, Lenovo, dan Supermicro.

Di luar pusat data, Intel juga tetap meningkatkan jejak AI-nya di edge dan di PC. Dengan lebih dari 90,000 penyebaran edge dan 200 juta CPU yang dikirimkan ke ekosistem, Intel telah memberikan pilihan bagi perusahaan selama beberapa dekade.

Hari ini kategori PC AI mengubah setiap aspek pengalaman komputasi, dan Intel berada di garis depan momen penciptaan kategori ini. Tidak lagi hanya tentang kecepatan pemrosesan yang lebih cepat atau desain yang lebih ramping, tetapi lebih tentang menciptakan perangkat edge yang belajar dan berkembang secara real-time – mengantisipasi kebutuhan pengguna, beradaptasi dengan preferensi mereka, dan mengawali era baru produktivitas, efisiensi, dan kreativitas.

Dengan PC AI yang diproyeksikan akan membentuk hampir 60% PC baru pada tahun 2027, Intel telah bergerak cepat untuk menciptakan platform perangkat keras dan perangkat lunak terbaik untuk PC AI. Memungkinkan lebih dari 100 vendor perangkat lunak independen (ISV), 300 fitur dan dukungan dari 500 model AI di seluruh platform Core Ultra-nya.

Dengan cepat membangun keunggulan tak tertandingi ini, perusahaan hari ini mengungkapkan detail arsitektural Lunar Lake – prosesor unggulan untuk generasi berikutnya dari PC AI. Dengan lonjakan besar dalam kekuatan pemrosesan grafis dan AI, dan fokus pada kinerja komputasi hemat daya untuk segmen tipis dan ringan, Lunar Lake akan memberikan hingga 40% daya SoC3 dan lebih dari 3 kali komputasi AI8. Diharapkan akan dikirim pada kuartal ketiga tahun 2024, tepat waktu untuk musim belanja liburan.