deepfake

De meest voor de hand liggende toepassing van deepfake ligt in nepnieuws. Nepnieuws draait om het verspreiden van misleidende informatie. Daar lenen deepfakes zich natuurlijk goed voor. Misbruik van de technologie kan voor verwarring en onrust zorgen.

Hoe worden Deepfakes gemaakt? Veelal door gebruik te maken van general adversarial networks. De laatste decennia is de kwalitatieve ontwikkeling van kunstmatige intelligentie razendsnel gegaan. Een deepfake-techniek die sterk in opkomst is, zijn de generative adversarial networks, oftewel GAN's. Een GAN bestaat vaak uit twee netwerken. Het eerste neurale netwerk, de generator, creëert nieuwe digitale content. Het andere systeem, de discriminator, bepaalt of die nieuwe informatie echt lijkt. Ze werken samen in onderlinge competitie. Hierin stuwen de twee systemen elkaar op tot een grote hoogte.

Het maken van een deepfake is ook nog niet heel makkelijk. De Volkskrant deed een poging en beschrijft in dit artikel hoe deepfake-software werkt en wat de beperkingen zijn.

De noodzakelijke aanpassingen worden nu gedaan vanwege de Europese privacyregels, maar Snoek ziet nog meer voordelen van het gebruik van deepfakes. Een van de grote problemen die de laatste jaren naar voren zijn gekomen is de onevenwichtige samenstelling van de trainingsdata, met een oververtegenwoordiging aan witte mannen. Snoek: 'Dit effect wordt nog eens versterkt door de algoritmen, die er een schepje bovenop doen.' Zo kon het gebeuren dat 'het Systeem' witte mannen bevoordeelde bij sollicitaties of niet herkende dat er een zwarte man voor een toegangspoortje stond.