Sebuah video yang memperlihatkan jembatan gantung putus di Bali beredar luas di media sosial. Dalam video tersebut, tampak jembatan gantung putus di saat banyak orang sedang menyeberang di atasnya.
Video ini pertama kali diunggah pada 29 Juli 2025 dan telah ditonton lebih dari 70 juta kali, mendapat lebih dari 320 ribu likes, 14.700 komentar, dan hampir 500 ribu kali dibagikan.
Namun, hasil analisis menggunakan alat pendeteksi video AI, Hive Moderation, menunjukkan bahwa video tersebut kemungkinan besar, sebesar 99,2%, merupakan hasil rekayasa AI generatif.
AI generatif adalah salah satu inovasi dalam bidang kecerdasan buatan yang mampu menciptakan konten baru berdasarkan instruksi atau prompt. Teknologi ini dapat menghasilkan teks, gambar, hingga video yang menyerupai buatan manusia. Tak hanya itu, AI generatif juga bisa memanipulasi konten asli, baik visual maupun suara, hingga tampak sangat nyata. Teknik manipulasi ini dikenal dengan istilah deepfake.
Untuk mengenali video buatan AI, sedikitnya ada tiga hal yang bisa dilakukan. Pertama, periksa video secara detail. Detail kecil bagian tubuh seperti jari, telinga, atau aksesori biasanya tampak tidak wajar dalam video buatan AI.
Detail-detail kecil ini biasanya tampak melebur atau menyatu dengan objek lainnya serta tidak konsisten. Pada video jembatan gantung yang putus, lengan baju orang dengan pakaian berwarna biru tampak tidak konsisten. Pada info ke-5, lengan baju digulung dan pada info ke-8 lengan bajunya panjang dan tidak digulung.
Selain itu, elemen visual seperti tulisan atau logo yang tampak tidak sinkron bisa jadi petunjuk kalau sebuah video adalah buatan AI.
Kedua, perhatikan gerakan dalam video. Dalam video jembatan gantung yang putus, tampak air terjun di bagian kanan video tidak bergerak di info-info awal. Kemudian, air terjun tampak bergerak dan terlihat nyata mulai info ke-8. Gerakan yang tidak wajar atau tidak realistis bisa jadi petunjuk apakah sebuah video buatan AI atau asli.
Ketiga, kita bisa menelusuri sebuah video melalui reverse image search. Tujuannya, untuk mengetahui sumber asli video tersebut atau kapan pertama kali video diunggah. Dengan cara ini, kita bisa mengetahui apakah video tersebut ditandai sebagai buatan AI atau merupakan video asli.
Perkembangan model AI generatif pembuatan video seperti Sora dan Google Veo 3 kian pesat. AI generatif tersebut bisa membuat video yang tampak realistis. Hanya saja, perkembangan ini juga memiliki dampak negatifnya.
Pakar keamanan siber dan forensik digital Alfons Tanujaya mengatakan kepada DW kalau perkembangan AI generatif dalam menghasilkan video akan membuat video buatan AI makin sulit dibedakan dengan video asli.
“Hasil video generated AI ini akan makin sempurna dan makin sulit diidentifikasi dan dibedakan dari konten yang bukan AI. Akan makin sulit, itu polanya, itu yang perlu kita sadari, ” ungkap Alfons.
Senada dengan Alfons, pakar komunikasi digital Universitas Indonesia, Firman Kurniawan menyebutkan kalau alat pendeteksi AI bisa makin sulit mendeteksi video buatan AI jika berkembang makin pesat dan realistis.
“Jadi tools pun tidak bisa secara serta-merta memutlakkan ini AI, ini bukan AI. Nah kadang yang bukan AI, tapi karena strukturnya mirip buatan AI, malah dikira AI.” kata Firman.
Ia juga menyampaikan perlunya mengombinasikan berbagai alat pendeteksi AI saat memeriksa keaslian sebuah konten.
Kepada DW Indonesia, Alfons Tanujaya mengimbau agar pengguna media sosial tidak asal membagikan sebuah konten atau informasi sebelum meyakini kebenarannya.
“Kalau itu tidak ada di media mainstream dan Anda ragukan, saya sarankan jangan di-forward. Kenapa? Karena kalau Anda salah forward konten, lalu Anda forward konten yang melanggar hukum, Anda bisa kena konsekuensi hukum.”
Di sisi lain, Alfons juga mengingatkan pentingnya pengawasan pemerintah untuk meminimalisasi penyalahgunaan AI. Meski Indonesia belum memiliki aturan spesifik mengenai AI, Alfons menyebut kalau pemerintah Indonesia bisa menggunakan undang-undang terkait yang sudah ada.
“Payung hukum itu perlu, tetapi penegakan yang lebih penting. Percuma ada payung hukum enggak ditegakkan. Dan sebenarnya tanpa ada payung hukum hari ini, dengan penegakan yang ada, kamu melanggar etika, bikin gambar porno dari AI, kamu mengeksploitasi orang, itu sudah ada, bisa dipakai, UU ITE dan sejenisnya gitu,” ujar Alfons.
Meski pengawasan penggunaan AI penting dilakukan pemerintah, Firman mengingatkan agar hal itu tidak membatasi perkembangan AI yang mendukung inovasi dan aktivitas manusia.
“Kita harus tahu porsi yang tepat, jangan sampai ketinggalan memanfaatkan AI, tapi juga jangan menganggap bahwa perangkat ini hanya untuk kebaikan, orang lain bisa pakai untuk kejahatan. Nah, itu kita perlu mempelajari di sisi-sisi mana bahwa artificial intelligence ini bisa merugikan atau membahayakan manusia,” tutup Firman mengakhiri perbincangan dengan DW Indonesia.
Editor: Hani Anggraini
