Berhati-hatilah dengan software baru yang dapat membuat apa yang disebut “deep fakes”, di mana video orang sungguhan dapat disimulasikan menggunakan wajah orang yang lain. Teknologi itu juga dapat menghidupkan foto.

Deep Nostalgia, dirilis oleh perusahaan MyHeritage, akhir-akhir ini menjadi tren di media sosial, banyak netizen yang menghidupkan kembali semua orang mulai dari komposer terkenal hingga kerabat yang sudah meninggal menggunakan foto jadul (jaman dulu).

Perangkat lunak ini menarik reaksi beragam, beberapa orang senang dengan kreasinya, dan yang lain menganggapnya menyeramkan. Teknologi menunjukkan betapa mudahnya membuat video tentang orang-orang yang melakukan hal-hal yang sebenarnya belum pernah mereka lakukan di kehidupan nyata.

“Teknologi deepfake semakin canggih dan berbahaya,” kata Aaron Lawson, asisten direktur Speech Technology And Research (STAR), dalam wawancara email. “Ini sebagian karena sifat kecerdasan buatan. Di mana teknologi ‘tradisional’ membutuhkan waktu dan energi manusia untuk berkembang, sedangkan AI dapat belajar dari dirinya sendiri.

“Tapi kemampuan AI untuk mengembangkan dirinya sendiri adalah pedang bermata dua,” lanjut Lawson. “Jika AI dibuat untuk melakukan sesuatu yang baik, bagus. Tapi ketika AI dirancang untuk sesuatu yang berbahaya seperti pemalsuan yang dalam, bahayanya belum pernah terjadi sebelumnya.”

Perangkat Lunak yang Dapat Menghidupkan Foto
Situs web Genealogi MyHeritage baru saja memperkenalkan mesin animasinya bulan lalu. Teknologi tersebut, yang dikenal sebagai Deep Nostalgia, memungkinkan pengguna menganimasikan foto melalui situs web MyHeritage. Sebuah perusahaan bernama D-ID merancang algoritma untuk MyHeritage yang secara digital menciptakan kembali pergerakan wajah manusia. Perangkat lunak ini menerapkan gerakan pada foto dan memodifikasi ekspresi wajah agar bergerak seperti yang biasa dilakukan wajah manusia, menurut situs web MyHeritage.

Deep Nostalgia menunjukkan bahwa teknologi untuk membuat video palsu menjadi lebih mudah diakses, Lior Shamir, seorang profesor ilmu komputer di Kansas State University, mengatakan dalam sebuah wawancara email. Ini berkembang dengan cepat dan bahkan menghilangkan perbedaan halus antara video dan audio palsu dan asli.

“Ada juga kemajuan substansial menuju pemalsuan video dalam waktu nyata, yang berarti bahwa video palsu yang meyakinkan dihasilkan pada saat komunikasi video,” kata Shamir. “Misalnya, seseorang dapat mengadakan pertemuan Zoom dengan orang tertentu, sambil melihat dan mendengar suara orang yang sama sekali berbeda.”

Ada juga semakin banyak pemalsuan berbasis bahasa, kata Jason Corso, direktur Institut Stevens untuk Kecerdasan Buatan di Institut Teknologi Stevens, dalam sebuah wawancara email. “Menghasilkan seluruh paragraf teks palsu yang dalam ke arah agenda tertentu cukup sulit, tetapi kemajuan modern dalam pemrosesan bahasa natural yang mendalam memungkinkannya,” tambahnya.

Bagaimana Cara Mendeteksi Video Deep Fake
Sementara teknologi pendeteksian video deep fake masih dalam tahap penelitian, ada beberapa cara untuk mendeteksinya, kata Corso, bisa dimulai dari mulut.

“Variabilitas tampilan bagian dalam mulut saat seseorang berbicara sangat tinggi sehingga sulit untuk dianimasikan secara meyakinkan,” jelas Corso. “Itu bisa dilakukan, tapi itu lebih sulit daripada yang lain. Perhatikan bagaimana video Deep Nostalgia tidak menunjukkan kemampuan foto untuk mengatakan ‘Aku mencintaimu’ atau frasa lain selama pembuatan video Deep Fake. Melakukannya akan membutuhkan pembukaan dan penutupan mulut, yang sangat sulit untuk generasi palsu yang dalam. “

Selain itu jika Anda melihat gambar buram di sekitar tepi kepala, itu adalah hasil dari “gerakan cepat atau piksel terbatas yang tersedia di gambar sumber. Telinga bisa menghilang sebagian untuk sementara, atau rambut bisa menjadi buram di tempat yang tidak Anda duga,” dia kata.

Anda juga dapat melihat variasi warna saat mencoba melihat video Deep Fake, seperti garis tajam di wajah, dengan warna lebih gelap di satu sisi dan lebih terang di sisi lain.

“Algoritma komputer seringkali dapat mendeteksi pola distorsi ini,” kata Shamir. “Tetapi algoritme deep fake berkembang pesat. Tidak dapat dihindari bahwa hukum yang ketat akan diperlukan untuk melindungi dari deep fake dan kerusakan yang dapat ditimbulkan dengan mudah.”

Untuk kabar terkini, Website MyHeritage sendiri kabarnya telah di suspend karena alasan keamanan.

Sumber : Lifewire