Google hentikan fitur image generation di chatbot Gemini

Untuk sementara Google telah menghentikan fitur pembuatan gambar orang dalam aplikasi percakapan Gemini, dengan alasan perlunya perbaikan untuk memastikan akurasi. Keputusan ini mengikuti masukan pengguna yang menunjukkan ketidakakuratan dan keluaran yang menyinggung dalam gambar yang dihasilkan.

Fitur tersebut, yang didukung oleh model AI Imagen 2, menghadapi tantangan dalam menciptakan representasi yang tepat dan tidak memihak, yang menyebabkan penangguhan.

Dilansir dari Gizmochina (25/2), Google telah mengakui permasalahan ini dan menghubungkannya dengan tantangan dalam menyempurnakan model AI untuk menghindari representasi yang tidak tepat atau bias dalam upaya mencapai inklusivitas.

Meskipun ada upaya untuk mengurangi masalah yang ditemukan pada teknologi pembuatan gambar sebelumnya, fitur ini menghadapi kendala yang signifikan. Kadang-kadang menghasilkan penggambaran yang tidak perlu atau menjadi terlalu berhati-hati, gagal menghasilkan gambar untuk permintaan tertentu.

Wakil Presiden Senior Prabhakar Raghavan menjelaskan bahwa tujuannya adalah untuk memperbaiki masalah ini dengan perbaikan dan pengujian ekstensif sebelum fitur tersebut tersedia kembali. Ia juga mencatat tantangan yang ada dalam memastikan keandalan AI, terutama terkait topik-topik sensitif, dan menyoroti upaya berkelanjutan untuk meningkatkan akurasi teknologi.

Bahkan tokoh masyarakat, termasuk Elon Musk dan pemimpin Partai Republik Vivek Ramaswamy, mengkritik fitur tersebut karena menghasilkan gambar yang menurut mereka tidak akurat secara historis dan tidak sensitif terhadap ras.

Penangguhan ini merupakan bagian dari upaya Google yang lebih luas untuk mengembangkan teknologi AI secara bertanggung jawab, mengingat kompleksitas yang ada dalam menciptakan sistem AI yang kreatif dan akurat. Perusahaan itu telah menyatakan bahwa mereka bekerja keras untuk mengatasi masalah terkini dan berencana untuk segera merilis kembali versi perbaikan dari fitur pembuatan gambar.