China wendt zich tot AI in propaganda die de spot drijft met de ‘American Dream’ | Verkiezingen Nieuws


Taipei, Taiwan – “De Amerikaanse Droom. Ze zeggen dat het voor iedereen is, maar is dat echt zo?

Zo begint een 65 seconden durende, door AI gegenereerde animatievideo die ingaat op actuele kwesties in de Verenigde Staten, variërend van drugsverslaving en gevangenisstraffen tot groeiende welvaartsongelijkheid.

Terwijl onweerswolken zich samenpakken boven een stedelijk landschap dat lijkt op New York City, hangen de woorden ‘AMERICAN DREAM’ in een donker wordende lucht als de video eindigt.

De boodschap is duidelijk: ondanks de beloften van een beter leven voor iedereen, bevinden de Verenigde Staten zich in een terminale achteruitgang.

De video, getiteld American Dream of American Mirage, is een van een aantal segmenten die worden uitgezonden door de Chinese staatsomroep CGTN – en wijd en zijd gedeeld op sociale media – als onderdeel van de animatieserie A Fractured America.

Andere video’s in de serie bevatten vergelijkbare titels die beelden oproepen van een dystopische samenleving, zoals Amerikaanse arbeiders in tumult: een resultaat van onevenwichtige politiek en economie, en Unmasking the real threat: America’s militair-industriële complex.

Naast hun scherpe anti-Amerikaanse boodschap delen de video’s allemaal dezelfde door AI gegenereerde, hypergestileerde esthetiek en griezelige computergegenereerde audio.

CGTN en de Chinese ambassade in Washington, DC reageerden niet op verzoeken om commentaar.

Amerikaanse arbeiders in Tumult: een resultaat van onevenwichtige politiek en economie #FirstVoice pic.twitter.com/JMYTyN8P2O

— CGTN (@CGTNOfficial) 17 maart 2024

De Fractured America-serie is slechts één voorbeeld van hoe kunstmatige intelligentie (AI), met zijn vermogen om binnen enkele seconden met minimale inspanning hoogwaardige multimedia te genereren, vorm begint te geven aan de propaganda-inspanningen van Peking om de positie van de Verenigde Staten in de wereld te ondermijnen.

Henry Ajder, een Britse expert op het gebied van generatieve AI, zei dat hoewel de CGTN-serie niet probeert zichzelf voor te doen als echte video, het een duidelijk voorbeeld is van hoe AI het veel gemakkelijker en goedkoper heeft gemaakt om inhoud te produceren.

“De reden dat ze het op deze manier hebben gedaan is dat je hiervoor een animator en een voice-overartiest zou kunnen inhuren, maar dat zou waarschijnlijk meer tijd kosten. Het zou waarschijnlijk uiteindelijk duurder uitvallen”, zei Ajder tegen Al Jazeera.

“Dit is een goedkopere manier om de creatie van content te schalen. Wanneer je al deze verschillende modules kunt samenstellen, kun je afbeeldingen genereren, je kunt die afbeeldingen animeren, je kunt helemaal opnieuw video genereren. Je kunt behoorlijk overtuigende, behoorlijk menselijk klinkende tekst-naar-spraak genereren. Je hebt dus een hele pijplijn voor het maken van content, geautomatiseerd of op zijn minst zeer synthetisch gegenereerd.”

China heeft het enorme bereik en de grenzeloze aard van het internet lange tijd uitgebuit om invloedscampagnes in het buitenland te voeren.

Het enorme internet-trollenleger van China, bekend als “wumao”, werd meer dan tien jaar geleden bekend omdat het websites overspoelde met gespreksonderwerpen van de Chinese Communistische Partij.

Sinds de komst van sociale media hebben de propaganda-inspanningen van Peking zich gericht op platforms als X en Facebook en online influencers.

Terwijl de Black Lives Matter-protesten in 2020 de VS overspoelden na de moord op George Floyd, spraken Chinese staatsaccounts op sociale media hun steun uit, ook al beperkte Peking de kritiek op zijn staat van dienst op het gebied van discriminatie van etnische minderheden zoals Oeigoerse moslims thuis.

“Ik kan niet ademen.” pic.twitter.com/UXHgXMT0lk

— Hua Chunying 华春莹 (@SpokespersonCHN) 30 mei 2020

In een rapport van vorig jaar zei het Threat Analysis Center van Microsoft dat AI het gemakkelijker heeft gemaakt om virale inhoud te produceren en, in sommige gevallen, moeilijker te identificeren wanneer materiaal door een statelijke actor is geproduceerd.

Chinese door de staat gesteunde actoren zetten AI-gegenereerde inhoud in ieder geval sinds maart 2023 in, zei Microsoft, en dergelijke “visuele inhoud van relatief hoge kwaliteit heeft al een hoger niveau van betrokkenheid van authentieke gebruikers van sociale media getrokken”.

“Het afgelopen jaar heeft China een nieuwe mogelijkheid ontwikkeld om automatisch beelden te genereren die het kan gebruiken voor beïnvloedingsoperaties die bedoeld zijn om Amerikaanse kiezers in het hele politieke spectrum na te bootsen en controverse te creëren langs raciale, economische en ideologische lijnen”, aldus het rapport.

“Deze nieuwe mogelijkheid wordt mogelijk gemaakt door kunstmatige intelligentie die probeert inhoud van hoge kwaliteit te creëren die viraal kan gaan op sociale netwerken in de VS en andere democratieën.”

Microsoft identificeerde ook meer dan 230 medewerkers van de staatsmedia die zich voordoen als beïnvloeders van sociale media, met het vermogen om 103 miljoen mensen in ten minste 40 talen te bereiken.

Hun gespreksonderwerpen volgden een soortgelijk script als de CGTN-videoserie: China is in opkomst en wint de strijd om economische en technologische suprematie, terwijl de VS op een ineenstorting afstevenen en vrienden en bondgenoten verliezen.

Naarmate Al-modellen zoals Sora van OpenAI steeds hyperrealistische video, afbeeldingen en audio produceren, zal door AI gegenereerde inhoud moeilijker te identificeren worden en de verspreiding van deepfakes stimuleren.

Astroturfing, de praktijk waarbij de schijn wordt gewekt van een brede sociale consensus over specifieke kwesties, zou kunnen worden ingezet voor een “revolutionaire verbetering”, volgens een rapport dat vorig jaar werd uitgebracht door RAND, een denktank die gedeeltelijk wordt gefinancierd door de Amerikaanse overheid.

De CGTN-videoserie gebruikt soms lastige grammatica, maar weerspiegelt veel van de klachten die Amerikaanse burgers delen op platforms als X, Facebook, TikTok, Instagram en Reddit – websites die door AI-modellen worden geschraapt voor trainingsgegevens.

Microsoft zei in zijn rapport dat, hoewel de opkomst van AI het vooruitzicht dat Peking zich zal bemoeien met de Amerikaanse presidentsverkiezingen van 2024 niet meer of minder waarschijnlijk maakt, “het zeer waarschijnlijk elke potentiële verkiezingsinmenging effectiever maakt als Peking besluit om mee te doen.” .

De VS zijn niet het enige land dat zich zorgen maakt over het vooruitzicht van door AI gegenereerde inhoud en astroturfing nu het een tumultueus verkiezingsjaar tegemoet gaat.

Tegen eind 2024 zullen in een recordjaar voor de democratie ruim zestig landen verkiezingen hebben gehouden met impact op twee miljard kiezers.

Eén daarvan is het democratische Taiwan, dat op 13 januari een nieuwe president heeft gekozen, William Lai Ching-te.

Taiwan is, net als de VS, vaak het doelwit van de invloedsoperaties van Peking vanwege zijn omstreden politieke status.

Beiijijng claimt Taiwan en de afgelegen eilanden als onderdeel van zijn grondgebied, hoewel het functioneert als een de facto onafhankelijke staat.

In de aanloop naar de verkiezingen van januari werden meer dan honderd deepfake-video’s van nepnieuwspresentatoren die de vertrekkende Taiwanese president Tsai Ing-wen aanvielen toegeschreven aan het Chinese Ministerie van Staatsveiligheid, zo meldde de Taipei Times, onder verwijzing naar nationale veiligheidsbronnen.

Willem LaiTaiwan heeft in januari William Lai Ching-te tot nieuwe president gekozen [Louise Delmotte/AP]

Net als de CGTN-videoserie misten de video’s verfijning, maar lieten ze zien hoe AI kon helpen desinformatie op grote schaal te verspreiden, zegt Chihhao Yu, mededirecteur van het Taiwan Information Environment Research Center (IORG).

Yu zei dat zijn organisatie tijdens de verkiezingen de verspreiding van door AI gegenereerde inhoud op LINE, Facebook, TikTok en YouTube had gevolgd en ontdekte dat door AI gegenereerde audiocontent vooral populair was.

“[The clips] worden vaak verspreid via sociale media en ingelijst als gelekte/geheime opnames van politieke figuren of kandidaten over schandalen over persoonlijke zaken of corruptie”, vertelde Yu aan Al Jazeera.

Deepfake-audio is voor mensen ook moeilijker te onderscheiden van het echte werk, vergeleken met vervalste of door AI gegenereerde beelden, zegt Ajder, de AI-expert.

In een recent geval in Groot-Brittannië, waar in de tweede helft van 2024 algemene verkiezingen worden verwacht, was oppositieleider Keir Starmer te zien in een deepfake-audiofragment waarin te zien was dat hij personeelsleden verbaal misbruikte.

Een dergelijke overtuigende verkeerde voorstelling van zaken zou voorheen onmogelijk zijn geweest zonder een ‘onberispelijke impressionist’, zei Ajder.

“Aan de staat verbonden of aan de staat gelieerde actoren die motieven hebben – ze hebben dingen die ze potentieel proberen te bereiken – hebben nu een nieuw instrument om dat te proberen te bereiken,” zei Ajder.

“En sommige van die tools zullen hen alleen maar helpen dingen te schalen die ze al deden. Maar in sommige contexten kan het hen heel goed helpen die dingen te bereiken, met behulp van volledig nieuwe middelen, waarop overheden al een uitdaging hebben om op te reageren.”





Source link