Deepfakes uitgelegd: de AI die nepvideo's te overtuigend maakt
Advertentie
Zien is geloven. Nou ja, dat was in ieder geval het geval voordat we beseften dat mensen video's van artsen konden bestuderen om hoaxes voort te stuwen en de geschiedenis te herschrijven. Hoewel we manieren hebben gevonden om de meeste hoax-afbeeldingen te ontmaskeren, is er een technologische ontwikkeling die zo snel gaat dat we binnenkort misschien niet meer weten hoe we moeten weten wat echt is en wat nep is.
Deepfakes veranderen alles wat we mogelijk dachten op het gebied van gefilmde video's. Hier is alles wat je moet weten over hen ...
Wat zijn Deepfakes?
De term deepfakes komt van een combinatie van de woorden "deep learning" en "fakes". Dit komt omdat kunstmatige intelligentie software getraind in beeld- en videosynthese deze video's maakt. Deze AI kan het gezicht van het ene onderwerp (de bron) op een video van een ander (het doel) plaatsen. Meer geavanceerde vormen van de technologie kunnen een volledig nieuw model van een persoon synthetiseren met behulp van de gezichtsgebaren en afbeeldingen of video van het onderwerp dat ze willen nabootsen.
De technologie kan gezichtsmodellen maken op basis van beperkte visuele gegevens, zoals één afbeelding. Hoe meer gegevens de AI moet verwerken, des te realistischer het resultaat is.
Dit is de reden waarom politici en beroemdheden zulke gemakkelijke doelen zijn voor deepfakes, omdat er zoveel visuele gegevens online beschikbaar zijn die de software kan gebruiken. Omdat deepfake-software beschikbaar is op open-sourceplatforms, verfijnen mensen op internet voortdurend op het werk van anderen.
The Origins of Deepfake AI Technology
De technologie achter deepfakes is ontwikkeld voor verschillende doeleinden. Net als Photoshop wordt de software professioneel, voor entertainment en voor hobbyisten gebruikt. En net als Photoshop, ondanks dat de maker geen kwaadaardige bedoelingen heeft bij het maken van de software, heeft dit mensen er niet van weerhouden om het voor kwaadaardige doeleinden te gebruiken.
Face-swapping-technologie werd aanvankelijk vooral in de filmindustrie gebruikt. Een van de beroemdste voorbeelden is in de 2016 Rogue One: A Star Wars Story. In de film gebruikten filmmakers face-swapping en videosynthesetechnologie om het personage Grand Moff Tarkin te recreëren. Een jongere versie van Princess Leia werd ook gemaakt in de film. In beide gevallen werden modellen van de gezichten van de oorspronkelijke acteurs bovenop opstandige acteurs geplaatst.
Apps zoals Snapchat gebruiken ook face-swapping-technologie om leuke filters voor gebruikers te maken. De ontwikkelaars achter deze apps verfijnen voortdurend gezichtsdetectie en tracking om deze filters effectiever toe te passen.
Ondertussen hebben anderen videosynthesetools ontwikkeld om hologrammen voor educatieve doeleinden te maken. Eén project ontwikkelde bijvoorbeeld video- en gezichtssynthesesoftware zodat de getuigenis van overlevenden van de Holocaust als interactieve hologrammen in een museum kon worden gepresenteerd.
Waarom Deepfakes mensen nerveus maken
Toen mensen zich realiseerden dat oplichters en mensen die hoaxes speelden, Photoshop gebruikten om nepafbeeldingen te maken, moesten we sceptischer worden over wat wij als bewijs beschouwden. Gelukkig waren er veel manieren om te detecteren of een afbeelding nep was, zelfs met het blote oog.
Bovendien is het creëren van een overtuigend, gepast beeld in Photoshop relatief arbeidsintensief. Niet zomaar iedereen kan twee afbeeldingen op elkaar slaan en ze er realistisch uit laten zien.
Maar deepfakes zijn anders. Machine learning maakt het leven eenvoudiger 4 Machine Learning-algoritmen die uw leven vormen 4 Machine Learning-algoritmen die uw leven vormen Misschien realiseert u zich dat niet, maar machine learning is al overal om u heen en het kan een verrassende mate van invloed op uw leven uitoefenen. Geloof me niet? Je zult misschien verrast zijn. Lees meer, maar in dit geval maakt het namaak aanzienlijk eenvoudiger. Ten eerste is de software overal en gratis beschikbaar. FakeApp is bijvoorbeeld een populaire keuze voor het maken van deepfakes. U hebt geen geavanceerde vaardigheden nodig om een face-swap toe te passen, de software doet het voor u.
Omdat AI en diep leren helpen bij het creëren van deepfakes, wordt de technologie ook beter en overtuigender in een alarmerend tempo. Het zal niet lang duren voordat deze bewerkingen niet met het blote oog zichtbaar zijn.
In een wereld vol nepnieuws kan overtuigende deepfakes een chaotische kracht blijken te zijn tegen wat wij geloven dat waar is.
De opkomst van deepfakes vindt ook plaats in een tijd waarin AI-stemsynthese ook snel vooruitgaat. AI kan niet alleen nepvideo's genereren, maar het kan ook spraakmodellen voor mensen genereren.
Dit betekent dat je geen imitator nodig hebt om het te laten klinken alsof een politicus een schandelijke uitspraak doet. Je kunt AI trainen om in plaats daarvan hun stem na te bootsen.
De gevolgen van Deepfakes
Mensen gebruiken deepfakes al voor kwaadaardige doeleinden. Mensen gebruikten vaak FakeApp om nepvideo's te maken van beroemde actrices die zich bezighouden met inhoud voor volwassenen.
Gal Gadot, Daisy Ridley en Emma Watson zijn slechts enkele van de actrices waarop nepvideo's voor volwassenen zijn gericht. Deze deepfakes ruilen de gezichten van actrices in video's van volwassen filmsterren.
Hoewel verschillende platforms en bepaalde websites voor volwassenen dit soort video's hebben verboden, verschijnen er elke dag meer. Sommige websites maken in feite specifiek volwassen namaakvideo's voor beroemdheden op basis van gebruikersverzoeken.
In de meeste landen bestaat er nog geen wetgeving over dit soort inhoud, waardoor het moeilijk te controleren is.
Hoewel we nog steeds ver verwijderd zijn van de dystopie geregeerd door verkeerde informatie en vals video-bewijs dat we zien in films zoals The Running Man, zijn we al maar al te bekend met de effecten van nepnieuws Wat is nepnieuws en hoe verspreidt het zich dus Snel? Wat is nepnieuws en hoe verspreidt het zich zo snel? Nepnieuws plagen het internet en het ergste is dat de meeste mensen het niet kunnen herkennen wanneer ze het zien. Lees verder .
Deepfakes kan een krachtig hulpmiddel zijn bij het verspreiden van verkeerde informatie. Niemand is omlijst voor een misdrijf of vervalst hun dood met behulp van deepfakes, maar wat gebeurt er als het moeilijk wordt om te bepalen welke video's echt zijn?
De gevolgen van deepfakes die voor politieke doeleinden worden gebruikt, zijn tweeledig. Ten eerste maakt het nepnieuws veel gemakkelijker te verspreiden. Video's zijn waarschijnlijker dan tekst of afbeeldingen om mensen te overtuigen dat er iets fictief is gebeurd.
Mensen geloven al in krantenkoppen van nepwebsites zonder bewijs dat hun verhaal ondersteunt. Plots hebben nepverhalen 'bewijs' waaruit blijkt dat politici bekentenissen begaan of schandelijke uitspraken doen.
Aan de andere kant kunnen deepfakes ook politici aanmoedigen bij het ontwijken van verantwoording. Ze kunnen altijd gemakkelijk beweren dat een audio- of video-opname eigenlijk een diepe nep is.
Hoe bestrijden we deepfakes?
Terwijl veel technologiebedrijven hun tijd nemen om deepfakes in te tomen, ontwikkelen verschillende mensen tools om kwaadaardige nepvideo's te bestrijden. AI kan hackers en cybercriminaliteit bestrijden Hoe kunstmatige intelligentie moderne hackers en cybercriminaliteit zal bestrijden Hoe kunstmatige intelligentie moderne hackers en cybercriminaliteit zal bestrijden Met een tekort aan cyberveiligheid en cybercriminaliteit, hoe kunnen bedrijven hackers bestrijden? Met kunstmatige intelligentie! Lees meer, maar het is ook handig voor het detecteren van geknoei met AI in video's.
De AI Foundation heeft een browserplug-in genaamd Reality Defender gemaakt om online deepfake-inhoud te detecteren. Een andere plug-in, SurfSafe, voert ook soortgelijke controles uit. Beide tools zijn bedoeld om internetgebruikers te helpen feiten van fictie te onderscheiden.
Fact-checking-websites zoals Snopes zijn ook uitgebreid met het uitroepen van gepatenteerde video's. Maar ze hebben nog niet de tools om automatisch deepfakes te detecteren.
Zelfs het Amerikaanse ministerie van Defensie investeerde in software om deepfakes te detecteren. Wat zou er immers gebeuren als een overtuigende video van een wereldleider online zou verschijnen, die de oorlog verklaart of een raketlancering tegen een ander land? Overheden hebben hulpmiddelen nodig om de legitimiteit van een video snel te verifiëren.
Onbedoelde gevolgen van machine learning
Het lijdt geen twijfel dat AI-technologie en diep machinaal leren ons leven op veel manieren verbeteren. Maar de technologie heeft ook onbedoelde gevolgen.
Hoewel slechte gegevens een grote hindernis vormen voor algoritmen voor machine learning, speelt het menselijke element ook een rol. Het is moeilijk te voorspellen hoe mensen bepaalde technologie voor kwaadaardige doeleinden kunnen gebruiken. U kunt meer te weten komen over machine learning en fouten uit het verleden in onze gids voor machine learning-algoritmen en waarom ze fout gaan. Wat zijn machine learning-algoritmen? Hier is hoe ze werken Wat zijn machine learning-algoritmen? Hier is hoe ze werken Machine learning-algoritmen zijn ontworpen om het leven eenvoudiger te maken en systemen te verbeteren, maar ze kunnen mislopen met slechte gevolgen. Lees verder . En hoewel u het misschien moeilijk vindt om deepfakes als zodanig te identificeren, kunt u nepnieuws vermijden met slimme nieuws-apps 5 Slimme nieuws-apps om nepnieuws te voorkomen met betrouwbaardere rapporten 5 Slimme nieuws-apps om nepnieuws te voorkomen met betrouwbaardere rapporten Wil je weg van nepnieuws? U kunt deze slimme apps gebruiken om in plaats daarvan op feiten gecontroleerd en neutraal nieuws te ontvangen. Lees verder .
Ontdek meer over: Kunstmatige intelligentie, Deepfakes, Hoaxes, .
