Microsoft, Nvidia, dan perusahaan teknologi lain berkolaborasi demi keamanan AI

14 perusahaan besar di bidang AI termasuk Google, Microsoft, OpenAI, Amazon, Nvidia, IBM, PayPal, Cisco, Anthropic, dan Intel berkumpul untuk membentuk Coalition for Secure AI (CoSAI). Perkembangan ini dilaporkan bertujuan untuk mengatasi “lanskap keamanan AI yang terfragmentasi”.

CoSAI, yang diselenggarakan oleh badan standar global OASIS, adalah inisiatif open-source yang bertujuan untuk memberikan panduan dan alat yang dibutuhkan semua praktisi dan pengembang AI untuk membuat dan merancang sistem AI yang aman. Dilansir dari Gizmochina (23/7), ini diharapkan dapat membangun ekosistem kolaboratif untuk berbagi metode open-source, kerangka kerja standar, dan alat.

CoSAI adalah komunitas open-source yang dipimpin oleh Dewan Proyek (yang bertanggung jawab untuk memajukan dan mengelola agenda keseluruhannya), dan Komite Pengarah Teknis (terdiri dari pakar AI dari akademisi dan industri, yang mengawasi alur kerjanya).

Berikut adalah tujuan utama dari inisiatif ini:

- Mengembangkan praktik terbaik untuk Keamanan AI

- Mengatasi tantangan di bidang AI

- Memastikan keamanan aplikasi AI

Ruang lingkup pekerjaan CoSAI mencakup membangun, mengintegrasikan, menerapkan, dan mengoperasikan sistem AI secara aman, dengan fokus pada mitigasi risiko seperti pencurian model, keracunan data, injeksi petunjuk, penyalahgunaan skala, dan serangan inferensi.

“AI telah dikembangkan selama bertahun-tahun, dengan potensi berkelanjutan yang ditawarkannya kepada pembela HAM, dan juga menyadari peluang yang diberikannya kepada yang tidak bertanggung jawab. CoSAI akan membantu organisasi besar dan kecil mengintegrasikan AI dengan aman dan bertanggung jawab, membantu mereka memanfaatkan manfaat AI sekaligus memitigasi risiko”, kata Heather Adkins, wakil presiden keamanan Google.

Inisiatif ini dilaporkan disponsori oleh Google, IBM, Intel, Microsoft, Nvidia, PayPal, Amazon, Anthropic, Cisco, Chainguard, Cohere, GenLab, OpenAI, dan Wiz.