Tekoälyn luomien video-, kuva- ja ääniväärennösten uskotaan nousevan merkittäväksi uhkakuvaksi lähitulevaisuudessa.
Niin sanotulla deepfake-materiaalilla voidaan häiritä vaaleja sekä yksittäisiä poliitikkoja ja muita julkisuuden henkilöitä.
Britannian sisäministeri James Cleverlyn mukaan tekoälyteknologia on riski maan seuraavien parlamenttivaalien kannalta. Cleverlyn on määrä tavata kalifornialaisia teknologiajohtajia ja kehottaa heitä yhteisiin vastatoimiin demokratian suojaamiseksi.
Teknologian nopea kehitys ja sosiaalisen median laaja käyttö luovat otollisen alustan rikollisille ja vihamielisille valtioille. Times-lehden mukaan James Cleverly tapaa Googlen, Metan, Applen, Youtuben ja muiden yhtiöiden johtoa. Vaalivaikuttamisen taustalla voivat olla Venäjän ja Iranin kaltaiset valtiot sekä niihin kytköksissä olevat ryhmät.
Vuonna 2024 yhteensä noin kaksi miljardia ihmistä äänestää oman valtionsa vaaleissa. Niitä järjestetään kuluvan vuoden aikana Britanniassa, Yhdysvalloissa, Intiassa ja 60 muussa maassa.
Viime vuoden lopulla Britannian oppositiojohtaja Keir Starmerista ja Lontoon pormestari Sadiq Khanista levitettiin perättömiä äänitallenteita. Pääministeri Rishi Sunakia vastaan on tehtailtu väärennettyjä uutisvideoita, joissa hänen väitetään olevan kytköksissä taloudellisiin kohuihin.
Teknologiayhtiö Google kertoi aiemmin helmikuussa perustaneensa ”ympärivuorokautisia komentokeskuksia” verkossa leviävän disinformaation tunnistamiseksi. Tekoälyn luomaa materiaalia kuvaillaan yhtiön johdosta ”hyvin vakavaksi uhkaksi” demokratialle.