OpenAI dan Anthropic berbagi model AI dengan US AI Safety Institute untuk keselamatan yang bertanggung jawab

OpenAI dan Anthropic telah sepakat untuk berbagi model AI — sebelum dan sesudah rilis — dengan US AI Safety Institute. Badan tersebut, yang dibentuk melalui perintah eksekutif oleh Presiden Biden pada tahun 2023, akan menawarkan feedback keselamatan kepada perusahaan-perusahaan tersebut untuk meningkatkan model mereka. CEO OpenAI Sam Altman mengisyaratkan kesepakatan tersebut awal bulan ini.

Dilansir dari Engadget (30/8), US AI Safety Institute tidak menyebutkan perusahaan lain yang menangani AI. Namun seorang juru bicara Google mengatakan bahwa perusahaan tersebut sedang berdiskusi dengan badan yang dimaksud dan akan memberikan informasi lebih lanjut saat tersedia. Minggu ini, Google mulai meluncurkan model chatbot dan generator gambar yang diperbarui untuk Gemini.

“Keselamatan sangat penting untuk mendorong inovasi teknologi yang inovatif. Dengan adanya kesepakatan ini, kami berharap dapat memulai kolaborasi teknis kami dengan Anthropic dan OpenAI untuk memajukan ilmu keselamatan AI,” tulis Elizabeth Kelly, direktur US AI Safety Institute, dalam sebuah pernyataan. “Kesepakatan ini hanyalah permulaan, tetapi merupakan tonggak penting saat kami bekerja untuk membantu mengelola masa depan AI secara bertanggung jawab.”

US AI Safety Institute merupakan bagian dari National Institute of Standards and Technology (NIST). Lembaga ini membuat dan menerbitkan pedoman, uji tolok ukur, dan praktik terbaik untuk menguji dan mengevaluasi sistem AI yang berpotensi berbahaya.

“Sama seperti AI yang berpotensi memberikan manfaat besar, AI juga berpotensi menyebabkan kerugian besar, mulai dari serangan siber yang didukung AI dalam skala yang melampaui apa pun yang pernah kita lihat sebelumnya hingga senjata biologis yang diformulasikan AI yang dapat membahayakan nyawa jutaan orang,” kata Wakil Presiden Kamala Harris pada akhir tahun 2023 setelah lembaga tersebut didirikan.