NVIDIA dan Google kerjasama hadirkan Gemini AI secara offline untuk perusahaan
NVIDIA dan Google baru saja mengumumkan kerjasama dimana ingin menghadirkan Gemini AI secara offline untuk perusahaan yang membutuhkannya.
NVIDIA bekerja sama dengan Google Cloud untuk menghadirkan teknologi agentic AI ke perusahaan yang ingin menjalankan model AI Gemini secara lokal. Kolaborasi ini memanfaatkan platform NVIDIA Blackwell HGX dan DGX, serta NVIDIA Confidential Computing untuk menjaga keamanan data.
Dengan integrasi ke Google Distributed Cloud, perusahaan dapat memenuhi regulasi lokal dan menjaga kedaulatan data. Teknologi ini memungkinkan data sensitif seperti rekam medis, transaksi keuangan, dan informasi rahasia pemerintah tetap aman di pusat data lokal.
NVIDIA Confidential Computing menjaga keamanan kode dalam model Gemini dari akses tidak sah atau kebocoran data. Teknologi ini memberikan jaminan bahwa prompt pengguna dan data fine-tuning tidak dapat diakses atau diubah secara eksternal.
Menurut Sachin Gupta, Vice President Google Cloud, kolaborasi ini memungkinkan perusahaan memaksimalkan potensi agentic AI tanpa mengorbankan performa atau kemudahan operasional. Perusahaan kini dapat berinovasi dengan tetap menjaga privasi data.
Teknologi agentic AI berbeda dari model AI tradisional. Agentic AI dapat beradaptasi, mengambil keputusan, dan menyelesaikan masalah secara mandiri di lingkungan yang dinamis. Dalam sektor IT support, misalnya, agentic AI bisa mendiagnosis masalah, menjalankan perbaikan, dan mengeskalasi kasus kompleks secara otomatis.
Di sektor keuangan, agentic AI mampu tidak hanya mengenali transaksi mencurigakan, tetapi juga mengambil tindakan langsung, seperti memblokir transaksi atau menyesuaikan aturan deteksi penipuan secara real-time.
Untuk skenario hybrid dan cloud, Google Cloud menjadi salah satu penyedia layanan pertama yang menghadirkan confidential computing untuk agentic AI di semua lingkungan. Solusi ini dijalankan melalui NVIDIA HGX B200 dengan GPU Blackwell, yang memastikan performa tinggi tanpa mengorbankan integritas model atau keamanan data.
Google Cloud juga memperkenalkan GKE Inference Gateway yang dirancang untuk menyederhanakan deployment inferensi AI. Dengan integrasi NVIDIA Triton Inference Server dan NVIDIA NeMo Guardrails, perusahaan dapat mengatur load balancing yang cerdas sekaligus menjaga keamanan dan kepatuhan model AI.
Ke depan, Google Cloud berencana mengintegrasikan NVIDIA Dynamo, pustaka open-source untuk mengelola dan menskalakan AI reasoning dalam skala besar. Hal ini akan memperkuat observabilitas dan pengawasan performa AI agentic di lingkungan produksi.
Informasi lebih lanjut akan dibahas dalam acara Google Cloud Next, termasuk sesi khusus bersama NVIDIA, demo teknologi, dan diskusi langsung dengan para ahli.
