Dell gandeng AMD untuk portofolio AI generatif baru

Dell telah memperluas portofolio komputasi berkinerja tinggi untuk beban kerja AI dengan menambahkan server berbasis AMD, yang dirancang khusus untuk mendukung model bahasa besar (LLM). Penambahan baru ini melengkapi opsi Dell yang didukung Nvidia, sehingga menawarkan pelanggan lebih banyak variasi dalam pilihan infrastruktur AI mereka.

Server terbaru, Dell PowerEdge XE9680, dilengkapi dengan delapan akselerator AMD Instinct MI300X. Akselerator ini terkenal karena memori bandwidth tinggi (HBM3) 1,5 GB dan kapasitas kinerjanya yang mengesankan, melebihi 21 petaFLOPS. Hal ini membuat mereka sangat cocok untuk bisnis yang ingin melatih dan mengoperasikan LLM in-house mereka sendiri.

Dilansir dari Gizmochina (27/12), salah satu fitur utama dari penawaran baru Dell adalah skalabilitasnya. Pelanggan dapat menskalakan sistem yang mereka terapkan menggunakan standar interkoneksi memori global (xGMI). Selain itu, GPU AMD dapat dihubungkan melalui AI berbasis Ethernet dengan Dell PowerSwitch Z9664F-ON. Rilis ini mengikuti peluncuran unit Dell sebelumnya yang dilengkapi dengan GPU Nvidia H100.

Aspek penting lainnya dari strategi Dell adalah pengenalan standar baru yang disebut Dell Validated Design for Generative AI dengan AMD. Standar ini memberikan framework bagi organisasi untuk menjalankan arsitektur perangkat keras dan jaringan mereka sendiri untuk LLM. Hal ini menekankan penggunaan kerangka kerja AI yang didukung AMD ROCm, sebuah paket sumber terbuka yang mencakup driver, toolkit pengembangan, dan API yang kompatibel dengan akselerator AMD Instinct.

Kerangka kerja tersebut mendukung perangkat lunak AI populer seperti PyTorch, TensorFlow, dan OpenAI Triton, yang semuanya memiliki dukungan asli pada PowerEdge XE9680 yang dilengkapi dengan akselerator AMD.

Komitmen Dell terhadap jaringan berbasis standar, seperti yang ditunjukkan oleh keanggotaannya dalam Ultra Ethernet Consortium (UEC), menandakan penyimpangan dari pendekatan Nvidia. Berbeda dengan Nvidia, AMD dan Dell menganjurkan Ethernet terbuka untuk AI, memungkinkan interoperabilitas switch dari vendor berbeda dalam sistem yang sama.

Pendekatan Dell mendorong perusahaan untuk mengadopsi strategi terbuka yang mencakup komponen komputasi, fabric, dan penyimpanan yang penting untuk mendukung model AI generatif internal.

Perangkat keras dan layanan baru yang merupakan dorongan terbaru Dell dalam bidang AI diharapkan akan tersedia pada paruh pertama tahun depan. Pengembangan ini merupakan bagian dari upaya Dell yang lebih luas untuk menyediakan solusi serbaguna dan kuat bagi bisnis yang terlibat dalam AI generatif dan tugas komputasi tingkat lanjut lainnya.