InstantID dan Kekhawatiran Meningkatnya Ancaman Deepfake di Era AI
Kemajuan teknologi kecerdasan buatan (AI) kembali mencapai titik puncak dengan hadirnya InstantID, sebuah inovasi terbaru dari tim InstantX di Beijing.
Metode ini memiliki kemampuan luar biasa untuk mengenali identitas seseorang hanya dari satu gambar dan menciptakan gambar baru berdasarkan gambar tersebut.
Namun, seiring dengan kemajuan ini, muncul kekhawatiran tentang kemungkinan penyalahgunaannya.
Reuven Cohen, seorang konsultan AI untuk perusahaan besar, memberikan pandangannya tentang InstantID. Ia mengakui bahwa teknologi ini merupakan terobosan terbaru, tetapi juga menekankan bahwa ada sisi negatifnya.
Cohen menyampaikan kekhawatirannya kepada VentureBeat bahwa InstantID bisa memicu gelombang deepfake, terutama menjelang pemilihan umum 2024.
Menurut Cohen, penggunaan InstantID dalam pembuatan deepfake sangat mengkhawatirkan. Alat ini memudahkan pembuatan deepfake dengan hasil yang konsisten tanpa perlu pelatihan atau penyetelan lanjutan.
Dengan efisiensi yang tinggi dalam menghasilkan konten yang mempertahankan identitas, InstantID bisa menghasilkan deepfake yang sangat realistis dan meyakinkan dengan sedikit penggunaan sumber daya komputer.
InstantID telah melampaui teknologi sebelumnya seperti LoRA dalam hal generasi gambar AI yang dapat diidentifikasi. LoRA, yang dikenal karena kreasi seperti karakter anime dan fotorealisme, sering digunakan di platform-platform kontroversial seperti Civitai. Namun, kini InstantID menawarkan kemampuan yang lebih canggih.
Makalah dari tim InstantX menjelaskan bahwa InstantID menawarkan solusi yang lebih praktis dibandingkan LoRA. InstantID mampu menghadirkan personalisasi gambar dengan berbagai gaya hanya dari satu gambar wajah, sambil menjaga kualitas gambar yang tinggi. Ini berbeda dari LoRA dan QLoRA, yang lebih fokus pada penyetelan halus model.
Cohen menekankan bahwa keunggulan utama InstantID adalah kemampuannya dalam mempertahankan identitas dalam konten yang dihasilkan. Ini berarti, misalnya, gambar yang dibuat dari Donald Trump akan selalu terlihat konsisten seperti Donald Trump.
Kini, dengan InstantID, proses pembuatan AI deepfake menjadi lebih mudah dari sebelumnya. Teknologi ini tidak hanya fokus pada penyetelan model, tetapi lebih pada mempertahankan aspek identitas dalam konten yang dihasilkan. Ini membuka kemungkinan baru dalam pembuatan konten, namun juga menimbulkan kekhawatiran tentang potensi penyalahgunaan yang lebih besar.
Cohen mengingatkan bahwa kehadiran teknologi ini membutuhkan tanggung jawab besar dalam penggunaannya.
Sumber: VenturaBeat, instantid