Teknologi MIT bisa cegah algoritma AI manipulasi gambar

Memposting gambar secara online memiliki risiko manipulasi karena teknologi berbasis AI yang dapat membuat deepfake, mengubah foto, menyebarkan informasi yang salah, dan memfasilitasi pencurian identitas. Untuk melindungi dari hal ini, banyak orang biasanya mempertimbangkan watermark, berbagi gambar beresolusi rendah, berhati-hati tentang informasi yang dibagikan, dan menggunakan sumber yang dapat dipercaya.

Meningkatkan kesadaran tentang manipulasi gambar juga dapat membantu memerangi penyebaran konten yang menipu. Namun, dengan AI yang berkembang pesat, ini pun mungkin tidak cukup dalam jangka panjang. Di sinilah gagasan di MIT CSAIL masuk. Mereka telah mengatasi masalah tersebut, menampilkan teknik "PhotoGuard" buatannya. Tidak seperti watermark konvensional, ini mengubah piksel tertentu dalam gambar, dan berhasil membingungkan algoritma AI sambil tetap tidak terlihat sama sekali oleh mata manusia, sebagaimana dilansir dari Gizmochina (26/7).

Serangan "encoder" menipu model AI untuk melihat gambar sebagai sesuatu yang sama sekali berbeda, sementara serangan "difusi" yang lebih canggih menyamarkan gambar sebagai target yang berbeda, membuat pengeditan AI generatif apa pun tidak akan terjadi.

Tentu saja, tidak ada solusi yang sempurna (untuk saat ini), dan PhotoGuard juga memiliki keterbatasan. Misalnya, seseorang yang benar-benar berniat mungkin mencoba merekayasa balik gambar yang dilindungi dengan menambahkan digital noise atau menggunakan trik lain. Di situlah gunanya kerja tim. Semakin banyak pengembang model, platform media sosial, dan pembuat kebijakan bekerja secara kolaboratif, semakin memperkuat pertahanan PhotoGuard terhadap upaya licik.

Seiring kemajuan teknologi AI, penting bagi pengembang AI untuk berinvestasi dalam pertahanan yang kuat untuk melindungi seni digital. Hanya dengan begitu kita dapat mempertahankan dunia tempat AI dan kreativitas manusia berkembang bersama. Masa depan ekspresi artistik cerah, dan dengan pengawasan penjaga PhotoGuard, diyakini bahwa kanvas virtual tetap menjadi ruang aman bagi pikiran kreatif.