Dell gandeng AMD untuk portofolio AI generatif baru

Dell telah memperluas portofolio komputasi berkinerja tinggi untuk beban kerja AI dengan menambahkan server berbasis AMD, yang dirancang khusus untuk mendukung model bahasa besar (LLM). Penambahan baru ini melengkapi opsi Dell yang didukung Nvidia, sehingga menawarkan pelanggan lebih banyak variasi dalam pilihan infrastruktur AI mereka.

Server terbaru, Dell PowerEdge XE9680, dilengkapi dengan delapan akselerator AMD Instinct MI300X. Akselerator ini terkenal karena memori bandwidth tinggi (HBM3) 1,5 GB dan kapasitas kinerjanya yang mengesankan, melebihi 21 petaFLOPS. Hal ini membuat mereka sangat cocok untuk bisnis yang ingin melatih dan mengoperasikan LLM in-house mereka sendiri.

Dilansir dari Gizmochina (27/12), salah satu fitur utama dari penawaran baru Dell adalah skalabilitasnya. Pelanggan dapat menskalakan sistem yang mereka terapkan menggunakan standar interkoneksi memori global (xGMI). Selain itu, GPU AMD dapat dihubungkan melalui AI berbasis Ethernet dengan Dell PowerSwitch Z9664F-ON. Rilis ini mengikuti peluncuran unit Dell sebelumnya yang dilengkapi dengan GPU Nvidia H100.

Aspek penting lainnya dari strategi Dell adalah pengenalan standar baru yang disebut Dell Validated Design for Generative AI dengan AMD. Standar ini memberikan framework bagi organisasi untuk menjalankan arsitektur perangkat keras dan jaringan mereka sendiri untuk LLM. Hal ini menekankan penggunaan kerangka kerja AI yang didukung AMD ROCm, sebuah paket sumber terbuka yang mencakup driver, toolkit pengembangan, dan API yang kompatibel dengan akselerator AMD Instinct.

Kerangka kerja tersebut mendukung perangkat lunak AI populer seperti PyTorch, TensorFlow, dan OpenAI Triton, yang semuanya memiliki dukungan asli pada PowerEdge XE9680 yang dilengkapi dengan akselerator AMD.