“G’day. Good to see you. Pull up a chair. Grab a cold one if you’ve got it, dahil kailangan nating magkaroon ng seryosong sinulid tungkol sa mga nangyayari sa Canberra ngayong linggo.”
Mukhang napaka-Australia ng YouTuber na ito.
Siya ay madalas na nagtatanghal mula sa isang silid na may mga kulay na ilaw, gamit ang kolokyal na wika at slang upang magsalita ng halos eksklusibo tungkol sa isang paksa: pulitika sa Australia.
“Hindi pwedeng maupo lang ang mga Aussies, umimik sa pub habang umiinom ng beer, at umaasa na tama siya,” sabi niya sa ibang video.
Madalas niyang itinataguyod ang One Nation at ang pinuno nito, si Pauline Hanson, at kritikal kay Anthony Albanese. Tinutuligsa niya ang “uni-party” at ang “political establishment”.
Ang nilalaman ng Oceania Unfiltered ay madalas na umaatake kay Anthony Albanese at nagtatanggol sa One Nation. (Hindi Na-filter ang Oceania)
Sinabi ng isang tagapagsalita para sa One Nation na ang channel at ang lumikha nito ay hindi nauugnay sa party.
Nakatanggap ang channel ng libu-libong komento sa kabuuan ng kanyang mga video mula sa mga tila totoong Australian na nakikipag-ugnayan sa kanyang nilalaman.
Ngunit ang YouTuber na ito ay hindi Australian.
Siya ay tila isang tao na natunton ng ABC NEWS Verify sa kabilang panig ng mundo. At ang artificial intelligence ay ginamit upang bigyan ang channel na ito ng kakaibang boses ng Australia.
Mga palatandaan ng AI
Ang channel ay tinatawag na Oceania Unfiltered at sinasabing naghahatid ng, “matalim, independiyenteng pagsusuri sa mga isyung pampulitika, pang-ekonomiya at pangkultura na humuhubog sa Australia at New Zealand.”
Ang pinakaunang video tungkol sa pulitika ng Australia ay nai-post noong Pebrero at ang channel ay nakaipon ng higit sa 3 milyong panonood sa dose-dosenang mga video.
Ang nagtatanghal ay lumilitaw na isang Brazilian na lalaki, na pinangalanang Junior Lutero De Alcantara, kung minsan ay pinaikli sa Junior Lutero. Ang kanyang komentaryo ay madalas na pinagdugtong sa pagitan ng mga totoong clip ng balita sa Australia.
Lumalabas siya sa ilang channel sa YouTube — karamihan ay nagsasalita sa opisyal na wika ng Brazil, Portuguese — tinatalakay ang lahat mula sa pulitika sa mundo hanggang sa mga dayuhan hanggang sa mga teorya ng pagsasabwatan.
Sa pangalawang channel sa YouTube na lumalabas na nagtatampok ng Junior Lutero, ang mga mas lumang video ay ipinakita sa Portuguese bago biglang nag-pivot sa isang makapal na North American accent sa mga mas bagong video.
Marami sa mga ito ay kritikal kay Canadian Prime Minister Mark Carney at pinupuri ang US President Donald Trump.
Mga channel sa YouTube na nagtatampok ng pagkakahawig ni Junior Lutero. (Ibinigay)
Hindi malinaw kung ang tunay na Junior Lutero ang nagpapatakbo ng lahat ng mga account na ito, kabilang ang Oceania Unfiltered, o kung may ibang gumagamit ng kanyang pagkakahawig.
Ang ABC NEWS Verify ay sinubukang makipag-ugnayan kay Junior Lutero nang maraming beses ngunit walang natanggap na tugon. Nakipag-ugnayan din kami sa isang Brazilian producer para subukang makipag-ugnayan sa kanya. Wala rin silang natanggap na sagot.
Isang araw pagkatapos ng una naming pagtatangka na makipag-ugnayan sa kanya noong Mayo, nagsimulang lumabas ang mga babala sa ilang video na nagsasabing: “Ginawa gamit ang AI. Binago o ganap na nabuo ang mga tunog o visual.”
Makikita ang mga ito pagkatapos palawakin ang kahon ng caption ng video.
Pagkatapos magpadala ng mga tanong sa YouTube ang ABC NEWS Verify, lahat ng video sa channel ay may AI warning na inilagay sa caption box. Ang isa pang maliit na label ng AI ay inilagay din sa ibaba ng pamagat ng video kung saan maaari itong matingnan nang walang pag-click.
“Lahat ng content na na-upload sa YouTube ay napapailalim sa aming mga patakaran, na patuloy naming ipinapatupad para sa lahat ng creator sa aming platform, hindi alintana kung ang kanilang content ay nabuo gamit ang artificial intelligence,” sabi ng isang tagapagsalita para sa YouTube sa isang pahayag.
“Hinihiling din ng YouTube sa mga creator na ibunyag kapag nag-upload sila ng photorealistic o makabuluhang binago at synthetic na nilalaman, at nagpapakita kami ng malinaw na mga label ng paghahayag upang mabigyan ang mga manonood ng konteksto sa isang sulyap.”
Hiniling din namin sa mga eksperto sa AI detection na tingnan ang Oceania Unfiltered na content, na may isang video mula Setyembre 1 na pinili para sa mas malalim na pagsisiyasat.
“Ang video ay isang lip-sync deepfake,” sabi ng Unibersidad sa Buffalo’s Media Forensic Lab.
“Ang AI-generated speech lip-synced sa totoong footage ng isang tao, na may synthetic na audio at visual na manipulahin upang tumugma dito,” sabi ng pagsusuri nina Siwei Lyu, Jialing Cai, at Regina Chen.
Nakakita ang mga eksperto ng mga hindi likas na pagbabago sa paligid ng mata ng nagtatanghal at natagpuang nawala ang isa sa kanyang mga nunal.
Sa isang mas lumang video nakita nila ang “hindi matatag na mga hangganan at pagkutitap ng texture.”
Sa madaling salita, ginamit ang AI para manipulahin ang mukha at boses ni Junior Lutero.
Natuklasan ng mga eksperto sa AI detection na gumagalaw ang neckline ng lalaki sa hindi natural na paraan habang nagsasalita siya. (University of Buffalo Media Forensics Lab)
Nakahanap ang ABC NEWS Verify ng 2021 na video kung saan nagsasalita si Junior Lutero sa English na may Latin American accent.
Makikita sa clip ang content creator na humihiling sa Facebook na suriin ang isang desisyon na naghigpit sa monetization sa kanyang page at hindi nagpapakita ng mga palatandaan ng pagmamanipula ng AI.
Ang tunay na Junior Lutero ay nakunan ng ilan sa kanyang mga video sa isang bayan sa estado ng São Paulo ng Brazil. Ang ABC NEWS Verify ay pinili na huwag pangalanan ang bayan.
Natukoy ang bayan gamit ang mga landmark sa background sa tatlong video sa iba pang mga channel, na mukhang hindi nagpapakita ng mga palatandaan ng pagmamanipula ng AI.
Ang impormasyon ng transparency sa Oceania Unfiltered na Facebook page, na nagtatampok din ng pagkakahawig ni Junior Lutero, ay nagpapakita na ang page ay pinamamahalaan mula sa Brazil.
Ang Oceania Unfiltered ay mayroon na ngayong higit sa 45,000 subscriber sa YouTube kasama ang mga clickbait-style na headline nito.
Ang mga clickbait na headline at AI-generated graphics ay isang staple ng Oceania Unfiltered. (Hindi Na-filter ang Oceania)
Sinabi ni Timothy Graham mula sa Digital Media Research Center ng QUT na ang channel ay “lumampas sa hangganan” ng panlilinlang sa madla nito.
Habang ang pangunahing motibasyon ay lumilitaw na personal na pakinabang sa pananalapi, sinabi niya na ang epekto ay maaari pa ring pampulitika.
“Ang mga epekto at epekto ng mga bagay na ito ay higit pa o hindi gaanong magkapareho sa kung ano ang nilalayon, kung hindi aktwal, ang mga resulta ng mga operasyon ng impluwensyang dayuhan,” sabi niya.
“Ang napupunta sa iyo ay naghahati-hati na nilalaman na ini-inject sa mga organic na komunidad sa Australia.“
Ang mga komento sa mga video ay nagpapahiwatig ng hindi bababa sa ilang mga manonood ay hindi alam na ang nagtatanghal ay maaaring hindi tunay.
“Nakakapansin ka sa iyong mga komento. Salamat sa iyong patuloy na pag-post ng mga isyu na nakakaapekto sa mga Australyano,” sabi ng isa.
“Isa ka sa mga paborito kong analyst sa pulitika. Ipagpatuloy ang mabuting gawain at salamat sa diyos na nagising ang mga Aussie at ginagamit ang kanilang boto para sa pagbabago!” sabi naman ng isa.
Ang Oceania Unfiltered ay bahagi ng umuusbong na online na “slop economy” — kung saan maaaring kumita ang mga indibidwal sa pamamagitan ng pakikipag-ugnayan sa social media, gamit ang murang AI content.
“Ito ay isang paraan lamang upang makakuha ng mabilis na pera,” sabi ni David Hobson, isang mananaliksik mula sa Center for Media, Technology and Democracy ng Canada.
‘Mas maraming atensyon… mas maraming pera’
Ang monetization ay nagbibigay-daan sa mga tagalikha ng nilalaman sa mga sikat na platform ng social media na kumita ng bahagi ng kita na nabubuo ng kanilang mga post.
“Mahalaga ang formula ay higit na pansin, higit na pakikipag-ugnayan, mas maraming pera,” sabi ni Dr Graham.
Natukoy ng ABC NEWS Verify ang mga grupo at page kung saan nagbahagi ang isang network ng mga creator ng mga tip at trick sa kung paano kumita sa Facebook, pinuna ang iba pang AI slop page, at kahit na tinatalakay ang paghahanap ng tamang angkop na lugar para makabuo ng pakikipag-ugnayan.
Ipinakita ng kasaysayan ng page ng Oceania Unfiltered sa Facebook kung paano naghanap at naninirahan sa isang angkop na lugar ang tagalikha sa likod nito.
Ang data ng pagbubunyag na nakalap mula sa Facebook ay nagsiwalat na ang page ay pinagkakakitaan.
Sa pagitan ng 2013 at 2026, pitong beses itong pinalitan ng pangalan — karamihan ay iba’t ibang variation ng pangalan ni Junior Lutero — hanggang sa naging Oceania Unfiltered noong Marso.
Ang mga lumang reels ay nag-usap tungkol sa isang hanay ng mga paksa bago ang pivot sa Australian politics sa taong ito.
Matapos tanungin ng ABC NEWS Verify ang parent company ng Facebook, ang Meta, mga tanong, hindi pinagana ng kumpanya ang page dahil sa paglabag nito sa hindi tunay na patakaran sa pag-uugali, na sinabi ng isang tagapagsalita na “nagbabawal sa mga tao sa maling pagkatawan kung sino sila o kung saan sila matatagpuan”.
“Hinihiling namin sa mga creator na ibunyag kapag nag-post sila ng makatotohanang content na ginawa o binago gamit ang AI, at ang content na lumalabag sa aming mga patakaran ay hindi kwalipikadong kumita ng pera sa aming mga platform,” sabi ng tagapagsalita.
Tinukoy ng ABC NEWS Verify ang post na ito na naglalaman ng sunud-sunod na gabay sa paggawa ng Australian YouTube channel — at sinabing ang bansa ay isang hindi pa nagagamit na merkado.
Inirerekomenda ng post ang Australia bilang isang hindi gaanong mapagkumpitensyang merkado, kumpara sa US. (Ibinigay)
Nakipag-ugnayan kami sa dose-dosenang mga creator sa Facebook, sa pagsisikap na magtanong tungkol sa kanilang pag-post at modelo ng negosyo, ngunit walang sumagot.
Sinabi ni Mr Hobson na ang mga online na modelong kumikita ng pera ay matagal nang umiral, ngunit ngayon ay may pagkakaiba.
“Ginagawa na ngayon ng AI na makabuo ng nilalamang ito sa hindi kapani-paniwalang sukat,” sabi niya.
“Nasa mga platform kung magbabago ito o hindi.“
Slop mula sa buong mundo
Noong 2022, nag-publish ang independent think tank na Institute for Strategic Dialogue ng isang papel na sumusuri sa isang “lumalagong pandaigdigang industriya” ng disinformation na nagta-target sa mga madla sa US.
Ang may-akda ng ulat, si Elise Thomas — ngayon ay isang senior na open-source na imbestigador sa Center of Information Resilience — ay nagsabi sa ABC NEWS I-verify na ang mga creator na may komersyal na interes ay ang pinaka-makabagong.
“Kailangang gumana ang mga gamit nila, kung hindi, hindi sila mababayaran,” sabi niya.
“Sila ang pinakamabilis na gumamit ng mga bagong teknolohiya, ang mga ito ay pinakatumpak at epektibo sa mga tuntunin ng pag-target.“
Sa unang bahagi ng taong ito, ang Canada’s Center for Media, Technology and Democracy ay nag-publish ng pananaliksik na nakatuon sa “slop economy”, partikular sa Facebook.
Inilarawan ng ulat ang “isang pinagsama-samang network ng 340 mga pahina sa Facebook — higit sa lahat ay pinatatakbo mula sa Vietnam — ay nagta-target ng mga user sa Canada, Europe, at US na may mga kuwentong gawa-gawa ng AI tungkol sa pulitika, celebrity, at sports upang humimok ng trapiko sa mga gawa-gawang website ng balita at makabuo ng kita sa ad”.
“Sa abot ng aming masasabi, ginagawa nila ang anumang kinakailangan upang makakuha ng mga pag-click,” sabi ni Mr Hobson.
Sinuri ng ABC NEWS Verify ang daan-daang mga post sa Facebook gamit ang mga pampulitika na buzzword sa Australia, at mga clickbait na termino, upang subukang sukatin ang sukat ng lokal na “slop economy”.
Natagpuan namin ang mga account na pinapatakbo ng mga tao mula sa mga lokasyon tulad ng Indonesia, Sri Lanka, Vietnam at Bangladesh.
Ang nilalaman ay mula sa mababang kalidad na mga post na pangingisda para sa pakikipag-ugnayan, hanggang sa mas mataas na kalidad na koleksyon ng imahe na binuo ng AI.
Mayroon ding AI political slop page, na naglalaman ng mga pangalan tulad ng “Australia Unyielding” at “The Real Australia”. Sa ilang mga kaso, ipinapakita ng transparency information na ang mga account na ito ay pinapatakbo ng mga tao sa ibang bansa.
Ang mga dayuhang AI slop page ay gumagawa ng nilalamang fake news ng Australia na binuo ng AI. (Ibinigay)
Ang mga page na ito ay nagpo-post din sa mga pangkat na may mga pangalan tulad ng “Australia Pulse” at “Australia Life”.
Ang mga grupong ito ay isang hotbed para sa mga dayuhang indibidwal na naghahanap ng pakikipag-ugnayan sa pamamagitan ng pag-post ng kanilang sariling AI-generated imagery.
Parehong may mga tunay na miyembro ng Australia ang mga grupo at pahina, kasama ang mga dayuhang account.
Ang mga Australian na nakikipag-ugnayan sa content, ay nakakakuha ng kita para sa mga creator kung ang account ay pinagkakakitaan.
“Ang mga tao sa Australia ay kumikita pagdating sa paghahatid sa amin ng nilalaman,” sabi ni Dr Graham.
“Kami ay mga cash cows dahil kapag tinitingnan namin ang nilalaman at nakikibahagi dito … ang kita na lumalabas doon ay mas mataas lang kumpara sa ibang mga bansa.“
Sinabi ni Mr Hobson na ang mga tagalikha ng pera na binabayaran ay maaaring magmungkahi kung bakit nila tinarget ang mga bansa tulad ng Australia.
“Kung nakabase ka sa Vietnam o Sri Lanka, alinman sa mga bansang ito, kung binabayaran ka sa mga dolyar ng Amerika, Canada, Aussie — na nagsasalin ng marami sa iyong lokal na pera,” sabi niya.
Karagdagang pananaliksik ni Maryanne Taouk
