Gambar yang dihasilkan oleh AI yang menyebar di media sosial tentang seorang gadis yang memegang anjing dalam mengikuti… [+] Badai Helene
Gambar yang dihasilkan oleh AI yang menyebar di media sosial.
Setelah Badai Helene, Asheville, North Carolina, dan wilayah lain yang terdampak dilanda banjir, sementara gambar AI palsu yang menunjukkan kehancuran dan penderitaan manusia membanjiri media sosial.
Visual yang diedit atau palsu ini dapat mempersulit upaya tanggap bencana, menciptakan narasi palsu, dan, yang terpenting, merusak kepercayaan publik pada saat orang biasa sedang melakukan upaya luar biasa untuk membantu satu sama lain di tengah-tengah situasi hidup dan mati.
Secara khusus, dua gambar seorang anak perempuan yang tertekan memegang anjing dan tampaknya terjebak di tengah air bah telah mendapat perhatian online.
Sebagai ahli forensik video dan foto, saya dapat mengatakan dengan pasti bahwa gambar yang menggugah emosi ini sangat diedit atau benar-benar palsu. Gambar pertama (di atas) memiliki tanda-tanda deepfake bagi mata yang terlatih. Membandingkannya dengan gambar kedua dalam seri (di bawah) – di mana gadis kecil memiliki satu jari terlalu banyak – mulut anjing memiliki pewarnaan yang berbeda dan perahu memiliki bentuk dan warna yang berbeda.
Perhatikan tangan yang memegang anjing memiliki satu jari ekstra dalam gambar yang dihasilkan AI ini.
Gambar yang dihasilkan oleh AI yang menyebar di media sosial
Masalah dengan Gambar Palsu Selama Bencana
Paparan berulang terhadap konten palsu dapat mengikis kepercayaan publik pada sumber berita dan informasi yang sah. Ketika orang berulang kali bertemu dengan gambar palsu, mereka mulai mempertanyakan semua media, termasuk pembaruan bencana yang akurat dan diperlukan.
Selanjutnya, gambar-gambar palsu dapat menjadi kuda Troya untuk serangan siber, sering dibagikan bersama dengan tautan phishing atau kampanye penggalangan dana penipuan. Individu yang tidak curiga diiming-imingi untuk memberikan dana atau memberikan rincian pribadi kepada pelaku jahat di bawah kedok membantu mereka yang terkena dampak bencana.
Dampak Psikologis dari Gambar Palsu
Paparan berulang terhadap konten palsu selama bencana menciptakan guncangan emosional. Orang mengalami kejutan atau kesedihan awal ketika melihat gambar bencana atau penderitaan, tetapi ketika gambar itu dibantah, itu menimbulkan perasaan pengkhianatan, kebingungan, atau kemarahan. Siklus ini dapat dengan cepat mengurangi kemampuan kita untuk berinteraksi secara emosional dengan krisis nyata.
Kelelahan Verifikasi
Di masa lalu, orang dapat melihat gambar bencana dan segera bereaksi, baik dengan mendonasikan, membagikannya, atau menyimpati dengan mereka yang terkena dampak. Hari ini, dengan begitu banyak informasi yang salah bertebaran, bahkan tindakan peduli ini dilengkapi dengan langkah verifikasi tambahan.
Sebelum bereaksi, orang sekarang perlu memeriksa apakah gambar itu nyata, dari mana asalnya, dan apakah itu telah dimanipulasi. Upaya mental konstan ini menambahkan lapisan kelelahan, dan banyak orang pada akhirnya tidak terlibat, merasa lebih mudah untuk tidak peduli daripada harus menyibakiri lautan informasi yang salah.
Efek Desensitisasi
Setiap kali seseorang mengetahui bahwa gambar yang mereka kaitkan emosional palsu, itu merusak rasa kasih sayang mereka. Orang tidak suka merasa ditipu, dan setelah mereka keliru beberapa kali, mereka dapat mulai meragukan semua yang mereka lihat.
Skeptisisme ini membuat lebih sulit untuk memanggil perhatian terhadap krisis nyata, karena rasa takut akan ditipu lagi mengalahkan keinginan untuk membantu. Seiring waktu, mereka mulai mematikan, memperlakukan setiap bencana baru dengan sejumlah jarak emosional, tidak yakin apakah itu nyata atau hanya sekadar hoaks lain.
Terlalu Banyak Upaya untuk Percaya
Kepercayaan, khususnya dalam situasi krisis, seharusnya sederhana. Kita seharusnya dapat melihat gambar dan laporan berita tentang bencana dan percaya bahwa mereka adalah representasi yang akurat dari apa yang sedang terjadi.
Namun, penyebaran gambar palsu selama acara seperti Badai Helene telah membuat proses yang dulu sederhana ini menjadi jauh lebih rumit. Sejumlah kecil pelaku buruk dapat memiliki dampak yang berlebihan dengan membuat dan menyebarkan deepfake yang menjadi viral.
Gambar Palsu Merugikan Orang Nyata
Sekarang dibutuhkan upaya untuk memutuskan apakah akan mempercayai atau berinteraksi dengan konten. Upaya ini dapat menciptakan reaksi yang bermasalah yang merugikan individu dan kolektif.
Apathy sebagai Mekanisme Pertahanan
Ketika orang merasa mereka tidak lagi bisa mempercayai apa yang mereka lihat, mereka mungkin berhenti mencoba sama sekali. Lebih mudah untuk tidak peduli daripada mengeluarkan energi mental yang diperlukan untuk memverifikasi setiap gambar atau cerita.
Kurangnya keterlibatan ini pada akhirnya merugikan upaya bantuan bencana yang sesungguhnya, karena lebih sedikit orang yang mungkin maju untuk membantu atau mendonasikan.
Ketidakpastian yang Mencengangkan
Bagi beberapa orang, ketidakpastian konstan tentang apa yang nyata dan apa yang palsu menjadi terlalu sulit untuk ditangani. Alih-alih dengan hati-hati bernavigasi antara gambar yang nyata dan palsu , mereka mungkin memilih untuk tidak terlibat sama sekali dalam berita bencana.
Ketenangan ini tidak hanya memengaruhi bagaimana individu merespons bencana, tetapi juga melemahkan tanggapan kolektif secara keseluruhan. Ketika seluruh segmen populasi berhenti memperhatikan karena mereka tidak bisa mempercayai apa yang mereka lihat, menjadi lebih sulit untuk memobilisasi dukungan dan sumber daya yang luas.
Skeptisisme Terhadap Semua Media
Gambar bencana palsu tidak hanya merusak kepercayaan pada acara tertentu yang mereka distorsi, mereka juga mengikis kepercayaan pada semua media dari waktu ke waktu. Orang yang merasa diperdaya oleh satu gambar lebih mungkin menjadi skeptis terhadap liputan bencana masa depan, bahkan jika itu sah.
Pada akhirnya, hal ini membuat lebih sulit untuk berbagi informasi penting yang dapat menyelamatkan nyawa selama keadaan darurat dengan kecepatan dan akurasi.
Mengapa Kekentalan Ini Penting dalam Bencana Masa Depan
Konsekuensi yang paling mengkhawatirkan dari apati dan kentalitas yang berkembang ini adalah potensi untuk sangat mempengaruhi tanggapan bencana di masa depan. Ketika orang tidak lagi bisa membedakan antara krisis palsu dan nyata, atau ketika mereka telah menjadi terlalu lelah untuk mencoba, ini menimbulkan beberapa bahaya:
Sedikit Donasi dan Upaya Sukarela
Upaya kemanusiaan sering bergantung pada gelombang kasih sayang selama krisis. Namun, jika orang berhenti percaya pada laporan bencana atau menjadi kebas terhadap gambar penderitaan, mereka mungkin kurang cenderung untuk mendonasikan, turut serta, atau berbagi informasi penting. Penurunan keterlibatan publik ini dapat membatasi efektivitas upaya bantuan, meninggalkan komunitas rentan untuk waktu yang lebih lama.
Peningkatan Ketidak-beresan Selama Keadaan Darurat Nyata
Jika orang telah berulang kali terpapar gambar bencana palsu, mereka mungkin merespons dengan rasa “kelelahan bencana” selama keadaan darurat sesungguhnya. Alih-alih bersatu untuk membantu, mereka mungkin mempertanyakan seberapa buruk krisis sebenarnya, yang mengakibatkan tindakan lebih lambat dan sumber daya yang lebih sedikit bagi mereka yang membutuhkan.
Pecahnya Persatuan Sosial
Munculnya gambar palsu yang terkait dengan bencana nyata tidak hanya masalah disinformasi. Ini menciptakan masalah emosi yang lebih dalam dari kebasan dan ketidakpercayaan. Ketika orang menjadi lelah mencoba membedakan antara kebenaran dan kebohongan, mereka mungkin menjadi kurang termotivasi untuk peduli, bertindak, atau percaya sama sekali. Sinisisme ini menimbulkan risiko serius bagi tanggapan bencana di masa depan, karena lebih sedikit orang mungkin maju untuk membantu ketika dibutuhkan.
“