Sam Altman hengkang dari komite keamanan OpenAI

Kabar terbaru yang cukup mengejutkan datang dari Sam Altman. Soalnya, baru-baru ini dirinya melepas jabatan sebagai komisi internal pengawasan keputusan keselamatan “kritis” yang terkait dengan proyek dan operasi OpenAI.

Berita yang satu ini diumumkan melalui sebuah postingan blog beberapa waktu lalu. OpenAI mengatakan bahwa komite tersebut akan menjadi kelompok pengawas dewan “independen” yang kemudian akan diketuai oleh Carnegie Mellon Zico Kolter, dengan anggota CEO Quora, Adam D'Angelo, pensiunan Jenderal Angkatan Darat AS, Paul Nakasone, dan mantan Wakil Presiden Eksekutif Sony, Nicole Seligman. Semuanya adalah anggota dewan direksi OpenAI yang ada.

OpenAI mengatakan bahwa komisi tersebut melakukan tinjauan keamanan o1, model AI terbaru OpenAI, setelah Altman mengundurkan diri. Kelompok tersebut akan terus menerima pengarahan rutin dari tim keamanan dan keselamatan OpenAI dan tetap memiliki kewenangan untuk menunda rilis hingga masalah keamanan ditangani.

“Sebagai bagian dari pekerjaannya, Komite Keselamatan dan Keamanan akan terus menerima laporan berkala tentang penilaian teknis untuk model saat ini dan mendatang, serta laporan pemantauan pasca-rilis yang sedang berlangsung,” tulis OpenAI, seperti dikutip dari laman Gizmodo (17/9).

“Kami membangun proses dan praktik peluncuran model kami untuk membangun kerangka kerja keselamatan dan keamanan terpadu dengan kriteria keberhasilan yang ditetapkan dengan jelas untuk peluncuran model.”

Pengunduran diri Altman dari Komite Keselamatan dan Keamanan terjadi setelah lima senator AS mengajukan pertanyaan tentang kebijakan OpenAI dalam surat yang ditujukan kepada Altman musim panas tahun ini.

Hampir setengah dari staf OpenAI yang sebelumnya berfokus pada risiko jangka panjang AI telah mengundurkan diri, dan mantan peneliti OpenAI menuduh Altman menentang regulasi AI "nyata" demi kebijakan yang memajukan tujuan korporat OpenAI.

Terkait hal tersebut, OpenAI telah meningkatkan pengeluarannya secara drastis untuk lobi federal, dengan menganggarkan USD800.000 untuk enam bulan pertama tahun 2024 dibandingkan dengan USD260.000 untuk keseluruhan tahun lalu. 

Altman juga pada awal musim semi ini bergabung dengan Dewan Keamanan dan Keselamatan Kecerdasan Buatan Departemen Keamanan Dalam Negeri AS. Seperti diketahui, badan ini memberikan rekomendasi untuk pengembangan dan penerapan AI di seluruh infrastruktur penting AS.

Yang menarik, OpenAI mengatakan pada bulan Mei bahwa mereka akan berupaya mengatasi "kritik yang valid" atas pekerjaannya melalui komisi ini. "Kritik yang valid" tentu saja tergantung pada pandangan masing-masing orang.

Perusahaan tersebut dikabarkan tengah mengumpulkan USD6,5 miliar dalam putaran pendanaan yang akan menilai OpenAI memiliki valuasi lebih dari USD150 miliar. Untuk mencapai kesepakatan, OpenAI dilaporkan dapat meninggalkan struktur perusahaan nirlaba hibridanya, yang berupaya membatasi keuntungan investor sebagian untuk memastikan OpenAI tetap sejalan dengan misi pendiriannya: mengembangkan kecerdasan umum buatan yang "memberikan manfaat bagi seluruh umat manusia."