Khawatir etika AI, karyawan DeepMind desak Google hentikan kontrak militer

Baru-baru ini, lebih dari 200 karyawan di Google DeepMind menandatangani surat yang mendesak perusahaan untuk menghentikan kontrak militer. Surat ini mencerminkan kekhawatiran yang berkembang di dalam laboratorium AI tersebut bahwa teknologi mereka digunakan oleh militer, yang dianggap melanggar prinsip-prinsip AI Google sendiri.

Dilansir dari Engadget (23/8), surat yang bertanggal 16 Mei 2024 ini menyatakan bahwa para karyawan "khawatir dengan laporan terbaru tentang kontrak Google dengan organisasi militer". Meskipun surat tersebut tidak menyebutkan militer tertentu, surat ini merujuk pada laporan yang mengungkapkan bahwa Google memiliki kontrak langsung untuk menyediakan layanan komputasi awan (cloud computing) dan AI kepada militer Israel di bawah proyek yang dikenal sebagai Project Nimbus. Proyek ini telah menimbulkan kontroversi karena dugaan penggunaan AI untuk pengawasan massal dan pemilihan target dalam kampanye pengeboman di Gaza.

Para karyawan DeepMind menekankan bahwa keterlibatan dalam teknologi militer dan pembuatan senjata berdampak pada posisi mereka sebagai pemimpin dalam AI yang etis dan bertanggung jawab. Mereka juga menyatakan bahwa hal ini bertentangan dengan pernyataan misi dan Prinsip AI Google, yang menyatakan bahwa perusahaan tidak akan mengejar aplikasi AI yang kemungkinan besar menyebabkan “kerugian keseluruhan” atau berkontribusi pada teknologi yang tujuan utamanya adalah menyebabkan cedera.

Surat ini juga mencerminkan ketegangan yang semakin meningkat di dalam Google antara beberapa karyawan di divisi AI mereka, yang telah berjanji untuk tidak bekerja pada teknologi militer, dan bisnis Cloud mereka, yang memiliki kontrak untuk menjual layanan Google, termasuk AI yang dikembangkan di dalam DeepMind, kepada beberapa pemerintah dan militer. Para karyawan yang menandatangani surat tersebut menyatakan bahwa mereka ingin memastikan bahwa Prinsip AI Google tetap dijunjung tinggi.

Dengan lebih dari 200 tanda tangan, surat ini mewakili sekitar 5% dari total jumlah karyawan DeepMind. Meskipun persentase ini kecil, hal ini menunjukkan tingkat ketidakpuasan yang signifikan di antara karyawan dalam industri di mana talenta pembelajaran mesin sangat dibutuhkan.

Tindakan ini menunjukkan bahwa ada perbedaan pandangan yang mendalam di dalam Google mengenai penggunaan teknologi AI mereka. Para karyawan DeepMind berharap bahwa kepemimpinan mereka akan mendengarkan kekhawatiran ini dan mengambil langkah-langkah untuk memastikan bahwa teknologi mereka digunakan untuk tujuan yang etis dan bertanggung jawab.