Banyak dikritik, California rombak RUU terkait pengembangan AI

Untuk menciptakan keamanan selama pengembangan AI, California telah memiliki sebuah rancangan undang-undang yang cukup ketat. RUU ini dikenal dengan nomor SB 1047, yang disebut-sebut diharapkan dapat mencegah bencana AI.

Namun, kehadiran RUU ini ditentang sangat keras oleh banyak pihak di Silicon Valley. Mereka menganggap isi dari RUU tersebut memberatkan pengembangan AI. Dan tampaknya, protes keras ini didengar oleh para parlemen di negara bagian Amerika Serikat tersebut.

Saat ini, anggota parlemen California sedikit mengalah terhadap tekanan tersebut, dengan menambahkan beberapa amandemen yang disarankan oleh firma AI Anthropic dan penentang lainnya. Dan RUU yang telah direvisi ini sudah disahkan melalui Komite Alokasi Dana California.

"Kami menerima sejumlah amandemen yang sangat wajar yang diajukan, dan saya yakin kami telah menanggapi berbagai masalah inti yang diungkapkan oleh Anthropic dan banyak pihak lain di industri ini," kata Senator Wiener, seperti dilansir dari laman TechCrunch (16/8).

"Amandemen ini dibuat berdasarkan perubahan signifikan pada SB 1047 yang saya buat sebelumnya untuk mengakomodasi kebutuhan unik komunitas sumber terbuka, yang merupakan sumber inovasi yang penting."

Untuk sementara ini, SB 1047 masih bertujuan untuk mencegah sistem AI besar membunuh banyak orang, atau menyebabkan peristiwa keamanan siber yang menelan biaya lebih dari USD500 juta, dengan meminta pertanggungjawaban pengembang. Namun, RUU tersebut kini memberikan kewenangan yang lebih kecil kepada pemerintah California untuk meminta pertanggungjawaban laboratorium AI.

Perubahan yang paling menonjol adalah RUU tersebut tidak lagi mengizinkan jaksa agung California untuk menuntut perusahaan AI atas kelalaian praktik keselamatan sebelum peristiwa bencana terjadi. Ini adalah saran dari Anthropic.

Tapi, di sisi lain Jaksa Agung California dapat mengakali hal tersebut dengan putusan pengadilan, yang dimana dapat meminta perusahaan untuk menghentikan operasi tertentu yang dianggapnya berbahaya, dan masih dapat menuntut pengembang AI jika modelnya menyebabkan peristiwa bencana.

Di sisi lain, SB 1047 tidak lagi membentuk Frontier Model Division (FMD), sebuah badan pemerintah baru yang sebelumnya termasuk dalam RUU tersebut. Akan tetapi, RUU tersebut tetap membentuk Board of Frontier Models — inti dari FMD — dan menempatkannya di dalam Government Operations Agency yang ada. 

Bahkan, dewan tersebut kini memiliki sembilan anggota, dimana sebelumnya hanya berisi lima anggota. Board of Frontier Models akan tetap menetapkan ambang batas komputasi untuk model yang tercakup, mengeluarkan panduan keselamatan, dan mengeluarkan peraturan untuk auditor.

Hal lain yang diubah Senator Wiener dalam SB 1047 adalah laboratorium AI tidak perlu lagi menyerahkan sertifikasi hasil uji keamanan “dengan ancaman hukuman sumpah palsu”. Kini, laboratorium AI ini hanya perlu menyerahkan “pernyataan” publik yang menguraikan praktik keamanan mereka, tetapi RUU tersebut tidak lagi mengenakan tanggung jawab pidana apa pun.

SB 1047 kini juga mencakup bahasa yang lebih lunak tentang bagaimana pengembang memastikan model AI aman. Kini, RUU tersebut mengharuskan pengembang untuk memberikan "perhatian yang wajar" agar model AI tidak menimbulkan risiko signifikan yang dapat menyebabkan bencana, alih-alih "jaminan yang wajar" yang diwajibkan RUU sebelumnya.

Lebih jauh, para pembuat undang-undang menambahkan perlindungan untuk model open source yang telah disempurnakan. Jika seseorang menghabiskan kurang dari USD10 juta untuk menyempurnakan model yang dilindungi, mereka secara tegas tidak dianggap sebagai pengembang oleh SB 1047. Tanggung jawab akan tetap berada pada pengembang model asli yang lebih besar.