Imej trofi Oscar hasil janaan AI ini dikaitkan dengan kebakaran liar Los Angeles

"Tiada apa-apa lagi rumah selebriti yang telah memenangi anugerah dan sejumlah besar wang kecuali patung Oscar, yang dilemparkan ke dalam timbunan abu," bunyi kapsyen pada imej itu yang dikongsi di Facebook pada 15 Januari 2025.

Image

Tangkapan skrin siaran palsu Facebook diambil pada 2 Februari 2025

Siaran itu muncul kira-kira seminggu selepas kebakaran liar di Los Angeles yang telah meragut sekurang-kurangnya 27 nyawa, dengan berpuluh-puluh orang lagi dilaporkan masih hilang (pautan arkib).

Pelakon, pemuzik dan selebriti-selebriti lain adalah antara puluhan ribu orang yang terjejas akibat kebakaran yang menyebabkan industri hiburan di bandar itu terhenti seketika.

Imej-imej sama telah dikongsi dalam siaran serupa di Facebook di sini, di sini dan di sini. 

Pelakon Itali Isabella Rossellini berkongsi imej itu di Instagram pada 13 Januari. Gambar itu turut disebarkan oleh laporan media dalam talian dan di Facebook -- termasuk dalam bahasa Yunani, Sepanyol, Turki, Korea, Parsi, Burma, Cina dan Perancis.

Gambar itu, bagaimanapun, dijana AI.

Alat pengesahan InVID-WeVerify daripada veraai.eu, sebuah projek di mana AFP adalah rakan kongsi, menunjukkan terdapat 95 peratus kebarangkalian gambar itu dihasilkan menggunakan AI. Pengesan ini mengenal pasti jejak tertentu yang ditinggalkan oleh perisian penjanaan imej AI.

Image

Tangkapan skrin analisis InVID bagi imej yang dijana kecerdasan buatan (AI)

Carian imej terbalik mendapati gambar itu sebelum ini disiarkan pada 12 Januari di platform media sosial Reddit dan bertajuk "Simbolisme" (pautan arkib). Imej itu kemudiannya dibuang dan digantikan dengan nota yang menyatakan ia melanggar peraturan forum yang menghalang gambar janaan AI.

Tera air juga muncul di penjuru kanan sebelah bawah imej, menunjukkan ia dijana menggunakan AI.

Image

Tangkapan skrin imej dikongsi di Reddit, dengan tera air yang ditandakan AFP

Emmanuelle Saliba, ketua pegawai penyiasat di GetReal Labs berkata dalam siaran LinkedIn pada 15 Januari bahawa sistem pengesanan video atau imej palsu "deepfake" syarikat itu mengesahkan imej itu "barangkali disintesis atau diubah suai" (pautan arkib).

Saliba memberitahu AFP pada 22 Januari bahawa beliau berhubung dengan pencipta kandungan, yang menggelar dirinya sebagai pereka grafik. Pereka grafik itu memberitahunya bahawa dia pada asalnya berkongsi imej itu dalam satu kumpulan Facebook yang khas untuk berkongsi kandungan AI dan seni digital dan bahawa niatnya bukanlah "untuk mengelirukan orang."

Menurut Saliba lagi, pencipta kandungan itu memberitahunya dia meggunakan AI generatif Google Gemini untuk menjana imej itu dalam telefonnya sebelum menyuntingnya dalam Adobe Photoshop.

"Ini adalah satu contoh betapa cepatnya suatu imej itu boleh tersebar tanpa konteks," katanya. "Ini akan menjadi kebiasaan, terutamanya kerana kita sedang menuju ke arah dunia di mana kandungan seperti ini boleh dibuat dengan mudah menggunakan telefon bimbit."

AFP telah menafikan video hasil janaan AI mengenai kebakaran liar di Los Angeles di sini.