Melampaui Teknologi: Pentingnya Literasi Hadapi Deepfake

Terus berkembang, tampaknya jadi ciri melekat pada teknologi yang sedang dipersaingkan. Progresivitas teknologi, jadi penarik khalayak untuk menggunakannya secara luas. Demikian juga yang ditunjukkan deepfake --sebagai produk yang kinerjanya ditopang teknologi berbasis artificial intelligence (AI)-- progresivitasnya nyata. Bahkan dengan laju yang tak terkira.

Implikasinya, makin lama penggunanya bertambah. Juga sifat penggunaannya yang bervariasi. Variasi ini bisa berubah jadi mengkhawatirkan, lantaran jangkauannya melampaui batas. Mampu mengoyak batas kepercayaan, yang telah tersistematisasi dalam jaringan berpikir khalayak.

Ini contohnya: sebuah unggahan media sosial, yang mengisahkan adanya seorang perempuan dengan tampilan layaknya pramugari maskapai penerbangan. Dengan tampilan itu, ia berhasil menerobos pintu yang disediakan khusus bagi awak kabin. Melewatinya tanpa pemeriksaan ketat, yang dipersyaratkan bagi penumpang umumnya.

Jika akhirnya perempuan itu berhasil dikenali, karena sistem keamanan menemukan beberapa kejanggalan. Kisah yang terjadi pada 6 Januari itu, diakhiri dengan penangkapan perempuan penyamar itu, untuk dimintai keterangan. Kisah ini sepenuhnya nyata. Detik.com, 9 Januari 2026, menulisnya dengan judul, "Wanita Nyamar Jadi Pramugari Batik Air Berawal Ketipu Rp 30 Juta".

Kisahnya belum selesai. Seminggu setelah beredarnya unggahan di atas, khalayak kembali heboh oleh kejadian terusannya. Kali ini "Perempuan Penyamar" telah diterima sebagai awak kabin resmi Garuda Indonesia. Pada unggahan ditampilkan, diserahkannya dokumen --yang dapat ditafsir sebagai pernyataan pengangkatan resmi- oleh personal yang mereperesentasikan maskapai nasional itu.

Lengkap dengan kehadiran beberapa personal lain, beserta tulisan yang menyebut "...akhirnya diterima sebagai pramugari maskapai penerbangan Garuda Indonesia". Suatu peristiwa yang digambarkan terjadi, di tempat milik Garuda Indonesia.

Namun tak butuh waktu lama. Satu hari setelah beredarnya unggahan itu, Garuda Indonesia membantah kisah yang mengaitkan dengan organisasinya. Informasi yang tak benar itu, memang harus segera ditepis. Tanpanya, kepercayaan khalayak dapat tergerus.

Perbincangan soal profesionalitas dan transparansi sistem rekrut awak kabin, bisa berkepanjangan. Detik.com, 14 Januari 2026, lewat berita, "Garuda Indonesia Bantah Rekrut Wanita yang Nyamar Jadi Pramugari Batik Air" memuat bantahan divisi komunikasi, maskapai itu. Selain berita penyangkalan pengangkatan perempuan penyamar itu, juga disebut: unggahan yang beredar dan diperbincangkan khalayak merupakan hasil formulasi AI.

Deepfake yang menggambarkan, adanya relasi antara perempuan penyamar dengan Garuda Indonesia manipulasi belaka.

Namun soal unggahan manipulasi itu, bukan bagian terpentingnya di sini. Banyak cerita, yang telah mengemukakan berhasil terkuaknya deepfake pada akhirnya. Justru yang menarik: realitas unggahan di atas, mengalami momentum 'sempat' dipercaya khalayak. Bagaimana terjadinya: khalayak yang semula mempercayai unggahan yang dikonsumsinya nyata, namun pada akhirnya sadar unggahan itu manipulasi?

Perbincangannya di media sosial, menunjukkan fase perubahan itu. Semula muncul pujian, bagi perempuan penyamar memperjuangkan cita-citanya. Namun ketika ada yang mengemukakan unggahan yang diperbincangkan adalah produk AI, lambat laun menerima: unggahan benar-benar deepfake.

Nils C. Köbis, Barbora Doležalová, Ivan Soraperra, 2021, dalam artikel hasil penelitiannya "Fooled Twice: People cannot Detect Deepfakes but Think They Can" yang dimuat jurnal Science Direct, menyebut soal tak mudahnya mengenali deepfake sebagai unggahan manipulasi. Unggahan audiovisual hiperrealistis ini, menjadi tantangan baru. Tak mudah memastikan kebenaran suatu unggahan, yang beredar secara online.

Ketika pernyataan itu diuraikan terperinci --berdasar temuan penelitian ketiganya- kurang lebih berbunyi seperti ini: Pertama, orang tidak dapat mendeteksi deepfake secara andal.

Kedua, peningkatan kesadaran maupun pemberian insentif finansial, tidak meningkatkan akurasi deteksi yang dilakukan. Ketiga, dengan berfokus pada proses kognitif yang mendasarinya, ditemukan: orang cenderung salah mengira deepfake sebagai video otentik. Bukan sebaliknya.

Keempat, para responden melebih-lebihkan kemampuan deteksinya terhadap deepfake. Yang terjadi sebenarnya, orang mengadopsi heuristik kognitif--cara memutuskan dengan cepat, dengan mengandalkan penelaahan sekilas. Dengan keyakinan: "melihat adalah percaya" saat mendeteksi deepfake, sambil sangat yakin dengan kemampuan deteksi, yang sesungguhnya rendah. Seluruhnya membuat orang sangat rentan, dipengaruhi oleh unggahan deepfake.

Empat pernyataan itu, dapat diproyeksikan untuk menjelaskan momentum sempat dipercayainya kisah perempuan penyamar di atas. Kisah yang dianggap punya pijakan pada realitas. Begini proyeksinya: dalam keadaan yang umum, orang tak andal mengenali deepfake. Ini setidaknya bagi sebagian masyarakat Indonesia, yang masih asing dengan keberadaannya. Kepercayaan pada unggahan, terbentuk oleh informasi nyata sebelumnya dan diserap sebagai audiovisual yang otentik.

Sementara seluruh keadaan di atas, berlangsung dalam mode berpikir sistem 2. Pembagian sistem berpikir ini sesuai dengan konsepsi Daniel Kahneman: heuristik kognitif. Penggunaan sistem berpikir, walaupun merupakan pilihan yang dapat ditentukan secara sadar, namun akibat produksi dan distribusi informasi yang massif setiap hari menjadi proses yang refleks.

Derasnya arus informasi yang menerpa, menyebabkan khalayak mengonsumsinya dengan cepat disertai minimnya penelaahan. Tak sadar sistem berpikir makin berubah. Ini meletakkan khalayak, pada posisi rentan dipengaruhi manipulasi deepfake.

Dari proyeksi itu juga tampak, kerentanan termanipulasi oleh deepfake bukan semata-mata disebabkan makin berkembangnya teknologi penyokongnya. AI memang makin mampu menyediakan produk-produk kecerdasan, dengan keartifisialan yang sangat sulit dibedakan.

Jika hanya mengandalkan panca indera semata, deepfake sulit dikenal. Namun melampaui teknologi, masih terdapat dua faktor lain yang makin mempersulit proses pengenalan. Telah disebutkan: sistem berpikir khalayak yang berubah makin refleks, menggunakan heuristik kognitif saat mengkonsumsi informasi. Sedangkan faktor lainnya, penggunaan taktik penyajian deepfake dengan menunggangi informasi lain.

Faktor yang terakhir ini, dipraktikkan dengan memanfaatkan informasi lain yang telah punya pijakan realitas. Pada peristiwa yang diakui nyata, ditunggangkan peristiwa lain hasil manipulasi deepfake. Penunggangannya, bertujuan membentuk jaringan berpikir yang kontekstual.

Pada jaringan berpikir kontekstual ini, seseorang melanjutkan kerja pikirannya di dalam ruang dan waktu yang sama dengan informasi sebelumnya. Walaupun informasi lanjutannya adalah deepfake, namun sistem berpikir heuristik kognitif tak mampu menyadari ketakotentikan audiovisualnya. Khalayak termanipulasi, bukan lantaran deepfake yang samar dikenali panca indera. Namun dorongan jaringan berpikir kontekstual yang menguasai persepsinya.

Relevansi dimanfaatkannya jaringan berpikir kontekstual --untuk menunggangkan unggahan manipulasi deepfake-- juga terjadi pada kisah yang dialami Kezia Syifa. Perempuan ini ramai diperbincangkan khalayak, di sekitar pertengahan Januari 2026. Ini setelah Ibundanya menggungah cerita perpisahan keluarga --pada 17 Januari 2026-- akibat keberangkatan putrinya itu. Kezia Syifa harus meninggalkan Indonesia, lantaran diterima sebagai tentara Amerika Serikat.

Tak berselang lama, berbagai akun media sosial menggungah ulang saat mengharukan itu. Lengkap dengan komentar yang membahasnya. Komentar di seputar pujian, kekaguman diterima sebagai tentara di negara lain. Juga pertanyaan soal status kewarganegaraan Kezia Syifa. Menariknya --di antara unggahan ulang dan komentar itu-- muncul unggahan lain yang memuat alasan Kezia Syifa, tertarik bergabung sebagai tentara di negara adikuasa itu. Disebutkan "Kezia", beberapa alasannya. Pertama, untuk menjadi tentara di Indonesia perlu uang yang banyak. Bahkan mencapai ratusan juta.

Kedua, penghasilannya lebih besar dan jenjang karir yang lebih pasti. Dan ketiga, karena suka tantangan dan terus belajar untuk melakukan hal-hal baru yang tidak bisa dilakukan di Indonesia. Sebagian alasannya, bernada kritik pada keadaan di Indonesia.
Namun persoalannya, lagi-lagi unggahan ini deepfake. Manipulasi.

Jaringan berpikir kontekstual, memancing heuristik kognitif khalayak lebih berperan dibanding kewaspadaannya untuk melawan kerentanan terhadap manipulasi. Unggahan nyata sebelumnya, kokoh jadi pijakan untuk menerima unggahan berikutnya. Pengakuan deepfake "Kezia" dianggap senyata unggahan sebelumnya. Tak hanya khalayak awam yang terkecoh, juga beredar adanya penulis novel terkenal dan sejarawan populer, yang turut mengomentari alasan Kezia Syifa. Komentar dalam nada, seakan unggahan itu nyata.

Seluruhnya: pengembangan teknologi adalah keniscayaan. Penyempurnaannya makin kompleks, tak pernah berhenti. Namun melampaui teknologi, cara berpikir manusia turut diubah. Menyebabkannya makin enggan melakukan penelaahan mendalam. Juga teknik penyajian deepfake yang menunggangi kelemahan sistem berpikir manusia, memperburuk keadaan. Ini meletakkan manusia sebagai calon korban deepfake.

Jika sudah seperti ini, tak cukup negara hadir dalam bentuk undang-undang pencegah kerentanan. Yang lebih mendasar, pengakuan: mental manusia tak akan mampu mengimbangi lajunya kemajuan. Tapi pertanyaan besarnya: teknologi sebenarnya untuk apa dan siapa? Mengapa manusia harus terengah-engah untuk mengadaptasi laju kemajuannya, jika teknologi memang untuk manusia?

Firman Kurniawan S. Pemerhati Budaya dan Komunikasi Digital. Pendiri LITEROS.org.

Tonton juga video "Grok AI Masih Diblokir, Pemerintah Tunggu X Patuhi Aturan Indonesia"