Fokus di AI, Intel juga luncurkan Gaudi 3

Intel tampaknya tidak selesai dalam mengumumkan produk baru yang berkaitan dengan AI. Selain mengumumkan Lunar Lake dan Xeon 6, mereka juga mengumumkan kehadiran akselerator AI Intel Gaudi 3 yang merupakan generasi terbaru dari Intel.

Sebagai satu-satunya alternatif yang telah diuji MLPerf selain Nvidia H100 untuk pelatihan dan inferensi model bahasa besar (LLM), arsitektur Gaudi memberikan kinerja GenAI yang dicari pelanggan dengan keuntungan harga-kinerja yang memberikan pilihan dan waktu penyebaran yang cepat dengan biaya total operasi yang lebih rendah.

Kit AI standar termasuk delapan akselerator Intel Gaudi 2 dengan universal baseboard (UBB) yang ditawarkan kepada penyedia sistem seharga $65,000 diperkirakan hanya sepertiga dari biaya platform kompetitif yang sebanding. Kit yang mencakup delapan akselerator Intel Gaudi 3 dengan UBB akan dihargai $125,000, diperkirakan dua pertiga dari biaya platform kompetitif yang sebanding.

Akselerator Intel Gaudi 3 akan memberikan peningkatan kinerja yang signifikan untuk tugas pelatihan dan inferensi pada model GenAI terkemuka, membantu perusahaan membuka nilai dalam data proprietari mereka. 

Kluster akselerator Intel Gaudi 3 meningkat menjadi 8,192 unit, yang diproyeksikan menawarkan waktu pelatihan hingga 40% lebih cepat dibandingkan dengan kluster GPU Nvidia H100 ukuran yang sama dan throughput pelatihan hingga 15% lebih cepat untuk kluster akselerator 64 unit dibandingkan Nvidia H100 pada model Llama2-70B.